Anthropic says Alibaba illicitly extracted Claude AI model capabilities

개요

미국 AI 기업 Anthropic은 중국의 기술 및 전자상거래 기업 Alibaba가 자사의 Claude AI 모델의 역량을 불법적으로 추출했다고 비난하며, 이는 회사를 대상으로 한 역대 최대 규모의 공격이라고 밝혔다.

주요 내용

* Anthropic은 Alibaba가 2026년 4월 22일부터 6월 5일까지 25,000개에 달하는 가짜 계정을 통해 Claude와 2,880만 건 이상의 상호작용을 발생시켜 AI 모델의 출력을 학습하는 '증류(distillation)' 방식을 사용했다고 주장했다.
* Anthropic은 이러한 증류 행위가 중국의 AI 역량 강화를 가속화하려는 시도이며, Alibaba와 Alibaba의 AI 연구소인 Alibaba Qwen에 소속된 운영자들에 의해 수행되었다고 밝혔다.
* 이 내용은 미국 상원 은행위원회 의원들에게 전달되었으며, AI 관련 청문회에 앞서 보고되었다.
* 백악관은 이전에도 중국이 산업 규모로 미국의 AI 연구소 지적 재산을 절취하고 있다고 비난한 바 있다.
* Anthropic은 2025년 2월에도 중국 AI 스타트업 DeepSeek를 포함한 세 개의 중국 AI 연구소가 Claude AI 플랫폼의 역량을 불법적으로 추출하려는 캠페인을 식별했다고 발표한 바 있다.
* 당시 Anthropic은 이러한 캠페인이 "강도와 정교함" 면에서 증가하고 있으며, 이를 해결하기 위해 업계, 정책 입안자, 글로벌 AI 커뮤니티 간의 신속하고 조율된 조치가 필요하다고 언급했다.
* Alibaba는 최근 미국 국방부의 중국 군사 기업 목록에 추가되었으나, 이 지정에 이의를 제기하고 있다.
* 한편, Anthropic이 Alibaba의 불법 행위를 비난한 서한을 보낸 지 이틀 뒤, 미국 상무부는 자국 AI 모델이 잠재적으로 악용될 수 있다는 우려로 인해 Anthropic의 최신 Mythos 및 Fable AI 모델에 대한 접근을 전 세계적으로 차단했다.

시사점

이 사건은 AI 모델의 지적 재산을 보호하고 불법적인 역량 추출을 방지하는 것이 AI 산업의 지속적인 발전과 국가 안보에 있어 중요한 과제임을 보여준다. 또한, AI 기술의 윤리적 사용 및 국제 협력의 필요성을 강조한다.