Cybersecurity vets protest ‘dangerous’ US government ban on Anthropic’s most powerful models

개요

미국 정부의 Anthropic의 Fable 및 Mythos 모델 수출 통제 명령에 대해 저명한 사이버 보안 전문가들이 반발하며 해당 명령 철회를 촉구하는 공개 서한을 발표했습니다.

주요 내용

• 전문가들의 반발: 수십 명의 사이버 보안 전문가들이 미국 정부에 Anthropic의 강력한 AI 모델인 Fable과 Mythos에 대한 수출 통제 명령을 철회할 것을 요구했습니다.
• 방어 능력 약화 우려: 전문가들은 이러한 조치가 사이버 보안 방어자들로부터 최첨단 AI 모델 사용 기회를 박탈하여 취약점 탐지 및 보안 강화 능력을 저해한다고 주장했습니다.
• 정부의 조치 및 이유: 미국 정부는 국가 안보를 이유로 Anthropic에 Fable 및 Mythos 모델의 수출 제한을 명령했으나, 구체적인 이유는 밝히지 않았습니다. 이에 Anthropic은 전 세계 사용자들의 모델 접근을 일시 중단했습니다.
• Fable 모델의 특성과 논란: Fable은 Mythos의 공개 버전으로, 생물학, 화학, 사이버 보안 분야에서의 사용을 차단하고 모델 자체를 복제하는 것을 방지하는 엄격한 가드레일이 적용되었습니다. 그러나 많은 사이버 보안 전문가들은 이러한 가드레일이 사이버 보안 관련 프롬프트를 사실상 차단한다고 느꼈습니다.
• 가드레일 우회 논란: 미국 정부의 수출 통제 명령은 Fable의 가드레일을 우회하여 Mythos 수준의 기능을 활용할 수 있다는 보고서에 기반했을 가능성이 제기되었습니다.
• Amazon 연구 논문의 해석: 공개되지 않은 Amazon의 한 연구 논문이 가드레일 우회 방법을 제시했다고 알려졌으나, 공개 서한 서명자 중 한 명인 Katie Moussouris는 해당 논문이 실제적인 가드레일 우회를 입증한 것이 아니라, 알려진 취약점을 가진 코드를 수정하도록 요청한 것이라고 반박했습니다. 그녀는 이러한 기능이 방어적인 보안에 필수적이라고 주장했습니다.
• 대체 모델 존재 가능성: 전문가들은 Amazon 논문에서 제시된 기능이 OpenAI의 GPT-5.5, Anthropic의 Claude Opus 4.8 및 Sonnet, 그리고 Kimi 2.7과 같은 중국 모델에서도 재현될 수 있다고 지적했습니다.
• 규제 개선 요구: 전문가들은 투명하고 공정하게 집행되며, 과학적 연구에 기반하고 최소한의 범위에서만 적용되는 민주적 규제 과정을 통해 AI 관련 규제가 수립될 것을 촉구했습니다.

시사점

이번 사건은 강력한 AI 모델의 보안 및 수출 통제에 대한 논쟁을 부각시키며, 국가 안보와 기술 발전, 그리고 사이버 보안 방어 능력 간의 균형을 맞추는 새로운 규제 프레임워크의 필요성을 시사합니다.