The White House Is Making Up Its Rules for AI in Real Time

개요

트럼프 행정부가 AI 연구 기업 Anthropic의 최신 AI 모델 접근을 제한하면서, 미국 AI 규제에 명확한 법규 없이 실시간으로 규칙이 만들어지고 있다는 문제가 제기되었다.

주요 내용

• Anthropic의 모델 접근 제한: 트럼프 행정부는 Anthropic에 수출 통제 지시를 내려 최신 AI 모델인 Claude Mythos와 Fable 5의 접근을 차단했으며, 협상에도 불구하고 양측은 여전히 이견을 좁히지 못하고 있다.
• 규제 명확성 부족: Anthropic은 규정 위반 사실이 없다고 주장하나, 백악관은 Anthropic이 무모하게 행동했다고 주장하며 안전한 기술 배포 능력을 신뢰할 수 없다고 본다. 하지만 미국 정부는 Anthropic이 정확히 무엇을 잘못했는지 명확히 밝히지 않고 있다.
• AI 산업의 불확실성 증가: 전직 백악관 기술 관료는 백악관의 반(反)규제적 태도가 예측된 AI 기술 현실에 직면하면서 준비와 정책 없이 즉흥적으로 대응하고 있어 AI 산업에 난관을 초래한다고 지적한다.
• 혁신 저해 가능성: 백악관은 Anthropic에 모든 외국인에게 Mythos와 Fable 5 접근을 금지하도록 요구했는데, 이는 AI 연구소 직원뿐만 아니라 Apple, Meta 등 고객사들의 접근도 막아 연구 개발을 저해할 수 있다.
• 우려 제기 이유: 백악관은 Anthropic이 중국과 연계된 것으로 의심되는 SK텔레콤에 Mythos를 공유했다는 점과, Amazon CEO가 Fable 5의 안전 장치가 우회될 수 있다는 우려를 제기한 것을 바탕으로 접근을 제한한 것으로 보인다.
• 대응 방식에 대한 의문: Anthropic은 Mythos 공유 시 미국 정부와 협력했으며, SK텔레콤과의 협력은 과거에도 문제가 없었다고 주장한다. 또한 Fable 5의 우회 가능성에 대해서는 모든 LLM이 일정 수준의 '탈옥(jailbreak)'이 가능하며, 이는 해결하기 어려운 복합적인 문제라고 전문가들은 지적한다.
• AI 기업들의 대응: OpenAI, Google, Meta 등 다른 AI 기업들은 Anthropic의 사례를 보며 백악관에 최신 AI 모델에 대한 사전 접근 권한을 제공하고, 모델 출시 계획에 대한 정보를 선제적으로 공유해야 한다고 판단하고 있다.
• 사실상의 허가제 전환: 트럼프 대통령은 모델에 대한 '자발적' 사전 테스트 제출 시스템을 포함한 행정 명령을 발표했으나, Anthropic 사태 이후 이는 사실상의 허가제로 운영되고 있다는 비판이 제기된다.

시사점

미국 정부의 AI 규제가 예측 가능성 없이 실시간으로 변화함에 따라, AI 기업들은 규제 당국과의 긴밀한 사전 소통과 협력을 통해 리스크를 관리해야 하는 상황에 직면했다.