Anthropic Says It’s Taking Claude Fable 5 Offline to Comply With US Government Order

개요

Anthropic이 미국 정부의 수출 통제 지침에 따라 Claude Fable 5와 Mythos 5 AI 모델의 서비스 제공을 중단하기로 결정했습니다.

주요 내용

* 서비스 중단 결정: Anthropic은 금요일 오후 미국 정부로부터 받은 국가 안보 우려를 제기하는 수출 통제 지침에 따라 Claude Fable 5와 Mythos 5 AI 모델을 비활성화한다고 발표했습니다.
* AI 모델의 특징: Claude Fable 5는 사이버 보안, 생물학, 화학 관련 질문에 대한 답변을 방지하는 안전 장치가 적용된 Mythos AI 모델의 버전입니다. 미국 정부와의 협력을 통해 공개되었으며, 이전 Mythos Preview AI 모델은 4월에 제한적으로 출시되어 기업들이 강력한 사이버 보안 기능을 활용하도록 했습니다.
* 정부의 지침 내용: Anthropic은 정부로부터 받은 서신에 구체적인 국가 안보 우려 세부 사항이 명시되지 않았다고 밝혔습니다. 정부는 Fable 5를 우회(‘jailbreaking’)할 수 있는 방법이 발견되었다고 판단한 것으로 보이며, Anthropic은 이 방법으로 알려진 소수의 사소한 취약점들을 식별할 수 있었다고 설명했습니다.
* Anthropic의 입장: Anthropic은 Claude Fable 5의 오용 가능성을 줄이기 위해 강력한 안전 장치를 구현했으며, 정부가 제시한 우회 방법은 제한적이고 보편적이지 않으며, 다른 공개 모델에서도 발견될 수 있는 수준이라고 주장했습니다.
* 이전 갈등: 올해 초, 트럼프 행정부는 Anthropic을 ‘공급망 위험’으로 지정하여 정부 기관 및 계약업체의 Anthropic 기술 사용을 금지했으며, 이에 Anthropic은 행정부를 상대로 소송을 제기한 바 있습니다.
* AI 모델 안전성: Anthropic CEO Dario Amodei는 안전하지 않은 AI 모델의 공개를 차단하는 공정하고 투명한 정부 절차를 지지하지만, 이번 정부의 조치는 그러한 원칙에 부합하지 않는다고 지적했습니다.

시사점

이번 사건은 AI 기술의 국가 안보와 관련된 정부의 규제 움직임이 강화되고 있으며, AI 개발사들은 기술적 안전성과 규제 준수 사이에서 복잡한 균형점을 찾아야 함을 보여줍니다.