Anthropic Is Still at Odds With the White House Over Claude Fable 5

개요

Anthropic과 백악관은 Claude Fable 5 모델의 보안 취약점(jailbreaking)에 대한 이견으로 수출 통제 조치 해제를 두고 협상 중이나, 아직 합의에 이르지 못했습니다.

주요 내용

• 미국 정부는 Anthropic의 Claude Fable 5 모델이 보안 가드레일을 우회하여 사이버 보안에 특화된 Mythos 모델의 기능을 악용할 수 있다고 주장하며 수출 통제를 부과했습니다.
• Anthropic은 이러한 우려가 과장되었으며, Fable 5의 안전 장치는 충분히 강력하다고 반박하고 있습니다.
• 백악관은 NSA의 검토 결과, Fable 5의 가드레일 제거가 가능하다고 판단했으며, 이에 따라 수출 통제 조치를 취했습니다.
• Amazon CEO Andy Jassy가 백악관에 이 문제에 대한 직접적인 우려를 전달한 것이 정부의 조치에 영향을 미친 것으로 알려졌습니다.
• Fable 5와 같은 고급 AI 모델의 보안 취약점을 둘러싼 논쟁은 AI 모델의 개발 및 공개에 대한 정부의 개입과 규제 가능성을 시사합니다.
• 일부 보안 연구자들은 Fable 5의 취약점이 심각한 수준이 아니며, 해당 조치가 방어자들에게서 유용한 도구를 빼앗고 시장 불확실성을 야기한다고 주장하는 공개 서한을 발표했습니다.
• 이 사태는 다른 AI 연구소들에게도 고급 AI 모델 출시 시 백악관에 사전 접근 권한을 제공하고, 정부와 긴밀히 소통해야 한다는 점을 시사합니다.

시사점

이번 Anthropic과 백악관 간의 갈등은 AI 모델의 보안과 윤리적 사용에 대한 정부의 규제 움직임이 강화되고 있음을 보여주며, AI 연구 및 개발 생태계 전반에 잠재적인 영향을 미칠 수 있습니다.