Anthropic shuts down Fable, Mythos models following Trump admin directive

개요

Anthropic은 미국 상무부의 수출 통제 지시를 받은 후, 출시된 지 며칠 만에 Fable 5와 Mythos 5 모델에 대한 모든 고객의 접근을 중단했습니다.

주요 내용

* 모델 접근 중단: Anthropic은 Fable 5 및 Mythos 5 모델에 대한 접근을 즉시 차단했으며, 이는 미국 외부에서의 사용을 제한하는 수출 통제 규정을 준수하기 위한 조치입니다.
* 정부의 우려: 미국 행정부는 Fable 5 모델이 사이버 보안, 화학, 생물학 관련 프롬프트의 광범위한 분류 기반 안전 장치를 우회할 수 있다는 '탈옥(jailbreak)' 보고에 대해 우려를 표명했습니다.
* 국가 안보 강화 목적: 행정부는 이러한 유형의 위협에 대비하여 '국가 안보 장치'를 강화할 시간을 확보하기 위해 해당 모델의 출시를 일시 중단할 것을 요청했습니다.
* Anthropic의 입장: Anthropic은 정부가 소프트웨어 결함을 찾기 위해 특정 코드베이스를 검토하도록 Fable 5를 유도하는 잠재적인 '좁고 보편적이지 않은 탈옥'에 대한 구두 증거만을 제공받았다고 밝혔습니다. 또한, 이러한 탈옥 시도가 '사소하고 비교적 단순한' 소프트웨어 취약점을 찾는 데 사용된 사례만 보았으며, GPT-5.5와 같은 다른 공개 모델도 유사한 기능을 가지고 있다고 언급했습니다.

시사점

이 사건은 AI 모델의 국가 안보 및 잠재적 악용 가능성에 대한 정부의 우려가 AI 개발 및 배포에 직접적인 영향을 미칠 수 있음을 시사하며, 향후 AI 규제 및 수출 통제 강화의 가능성을 보여줍니다.