After spooking Trump into safety testing, Anthropic AI models get global release

개요

Anthropic의 최신 AI 모델인 Fable 5와 Mythos 5에 대한 미국 정부의 수출 규제가 해제되었습니다. 이는 모델의 보안 취약성 우려로 인해 발생했던 규제 이후, Anthropic이 미국 정부와 긴밀히 협력하여 안전 조치를 강화한 결과입니다.

주요 내용

* 수출 규제 해제: 미국 상무부는 Anthropic의 Claude Mythos 및 Claude Fable AI 모델에 대한 수출 또는 역내 이전 라이선스가 더 이상 필요하지 않다고 발표했습니다. Fable 5는 전 세계적으로 출시되었으며, Mythos 5는 6월 26일부터 미국 조직에 접근이 복원되었습니다.
* 안전 조치 강화: Anthropic은 정부와 협력하여 모델의 위험을 완화하기 위한 조치를 취했습니다. 여기에는 해커와 협력하여 모델을 테스트하는 프로그램 구축, 24시간 제로데이 위협 모니터링 팀 운영, 그리고 보안 강화 조치가 포함됩니다.
* Fable 5의 제약: 강화된 안전 조치로 인해 Fable 5는 일반적인 코딩 및 디버깅 작업 중에 일부 정상적인 프롬프트가 차단될 수 있는 "트레이드오프"가 발생합니다. 차단된 요청은 Opus 4.8으로 전송됩니다.
* 위험 평가 프레임워크 구축: Anthropic은 AI 업계가 AI 생성 위험을 평가하고 대응하는 데 도움이 되는 합의된 프레임워크를 구축하기 위해 Amazon, Microsoft, Google 등과 협력하고 있습니다. 이 프레임워크는 기능 제공 정도, 잠재적 공격 작업 수, 무기화 용이성, 전문 지식 필요성 등을 기준으로 합니다.
* 정부와의 관계 심화: Anthropic은 정부와의 사전 테스트 및 평가 협력을 확대하고, 프론티어 모델에 대한 조기 접근, 새로운 제이크이크 방법 공유, AI 평가 기술 발전을 위한 공동 연구 등 협력을 강화하고 있습니다.
* 규제 속도 문제 제기: Anthropic CEO 다리오 아모데이(Dario Amodei)는 AI와 정치 기관의 상호 작용이 느리게 진행되고 있다고 지적하며, 의회에 AI 안전 규제에 대한 신속한 법안 통과를 촉구했습니다.
* 경쟁 국가의 위협: 국경 보안 연구소의 아이작 해리스(Isaac Harris)는 중국 등 경쟁 국가에서 이러한 제한 조치가 덜한 모델이 등장할 경우 미국의 시장 대응이 중요하다고 지적했습니다.

시사점

Anthropic의 Fable 5 및 Mythos 5 모델에 대한 수출 규제 해제는 AI 모델의 안전성과 보안에 대한 정부와 기업 간의 협력이 진전되고 있음을 보여줍니다. 이는 AI 기술의 잠재적 위험을 관리하면서 혁신을 지속하려는 노력을 반영하며, 향후 AI 규제 및 국제 협력 논의에 중요한 영향을 미칠 것으로 보입니다.