Anthropic Offers Mythos Upgrade for Cyber Partners and a ‘Safe’ Version for the Rest of You

개요

Anthropic이 출시한 Claude Fable 5와 Claude Mythos 5는 이전 모델보다 향상된 기능을 제공하며, 보안 우려로 인해 Mythos 5는 제한된 파트너에게만 공개됩니다.

주요 내용

* Claude Fable 5 및 Claude Mythos 5 출시: Anthropic은 향상된 기능을 갖춘 두 가지 새로운 AI 모델 Claude Fable 5와 Claude Mythos 5를 출시했습니다.
* Mythos 5의 제한적 공개: Claude Mythos 5는 잠재적인 오용 가능성(예: 해킹 도구 개발)을 우려하여 소수의 기술 산업 파트너 및 미국 정부와 협력하여 제한적으로 공개됩니다.
* Fable 5의 '가드레일' 적용: Claude Fable 5는 동일한 기반 모델을 사용하지만, 사이버 보안, 생물학, 화학 관련 질문에 대한 답변을 차단하는 '가드레일'이 적용됩니다. 이러한 요청은 이전 모델인 Claude Opus 4.8로 리디렉션됩니다.
* 증류(Distillation) 방지: Claude Fable 5에서 더 작은 AI 모델을 훈련시키는 시도가 감지되면 해당 요청도 Claude Opus 4.8로 리디렉션됩니다.
* 제품 관리 전략: Anthropic은 Mythos 모델의 소프트웨어 취약점 발견 능력과 같은 고급 기능을 어떻게 관리할지에 대한 고민 끝에, 사용자에게 최대 가치를 제공할 수 있는 Fable 5를 우선 출시하는 전략을 채택했습니다.
* 보수적인 안전 장치: 현재 적용된 보호 메커니즘은 오경보 가능성을 감수하고 보수적으로 설계되었으며, 향후 분류기의 정밀도를 높여나갈 계획입니다.
* Project Glasswing 파트너 및 연구원 접근: Claude Mythos 5는 Project Glasswing 파트너 및 일부 생물학 연구자들에게 제공되며, 이는 향후 신뢰 액세스 프로그램 출시 전까지의 계획입니다.
* AI 모델의 사이버 보안 위협: Claude Mythos와 같은 AI 모델은 소프트웨어 취약점을 설계하고 악용하는 능력을 갖추고 있어, 광범위한 공개 전에 기업과 정부의 소프트웨어 방어 시스템 강화가 시급합니다.
* 안전한 일반 접근 출시 노력: Anthropic은 Mythos 수준의 기능을 일반에 안전하게 공개하기 위해, AI 모델의 사이버 기능을 오용으로부터 방지할 강력한 안전 장치 개발에 집중하고 있습니다.

시사점

Anthropic의 두 가지 모델 출시 전략은 AI의 혁신적인 능력을 활용하는 것과 동시에 잠재적인 위험을 관리해야 하는 AI 개발의 복잡성을 보여주며, 향후 AI 모델의 안전한 배포 및 활용 방안에 대한 지속적인 논의를 촉발할 것입니다.