Trump signs executive order to review AI models before they’re released

개요

도널드 트럼프 대통령은 AI 기업이 개발 중인 최첨단 AI 모델을 출시 전에 연방 정부와 공유하도록 하는 자발적 프레임워크를 구축하는 행정 명령에 서명하여, 안전한 혁신을 증진하고 중요 기반 시설의 사이버 보안을 강화하고자 합니다.

주요 내용

* AI 모델 사전 검토 프레임워크 구축: 행정 명령은 AI의 발전과 보안 위험을 인식하고, 모델 출시 전에 AI 모델의 고급 사이버 기능을 평가하기 위한 프레임워크 개발을 여러 연방 기관에 지시합니다.
* 기업의 자발적 모델 공유: 기업은 사전 출시 시점에 모델을 정부와 공유할지 여부를 재량껏 결정할 수 있으며, 공유할 경우 기밀 유지 보호를 받을 수 있습니다.
* 사이버 방어 준비 의무화: 연방 정부는 AI, 특히 중요 기반 시설을 위한 사이버 방어 준비를 갖추도록 요구받습니다.
* 중국과의 경쟁 고려: 이번 행정 명령은 트럼프 대통령이 중국과의 경쟁에 방해가 될 수 있다고 우려했던 이전의 계획된 행정 명령 서명을 연기한 후에 나왔습니다.
* 모델 공유 시점 조정: 이전 버전에서 AI 기업들이 출시 14일에서 90일 전에 자발적으로 모델을 공유하도록 허용하려 했던 것과 달리, 현재 버전은 기업들이 공개 출시 최대 30일 전에 모델을 공유하도록 요청합니다.
* 대형 IT 기업 및 AI 스타트업의 협력: Google, Microsoft, xAI는 상무부 AI 표준 및 혁신 센터(CAISI)의 사전 출시 검토를 허용하기로 합의했습니다. OpenAI와 Anthropic은 이미 2024년에 바이든 행정부와 AI 안전 가드레일에 대한 일환으로 CAISI와 모델 공유에 동의했습니다.
* 행정부의 AI 안전 인식 변화: 트럼프 행정부는 과거 AI 안전 문제에 대해 소극적인 태도를 보였으나, 이번 행정 명령은 AI 기업에 대한 감독 의지를 반영합니다.
* Anthropic의 Mythos 모델 출시의 영향: Anthropic이 자체 개발한 Mythos 모델의 일부 기능이 심각한 취약점을 발견했다고 밝히면서, 행정부의 AI 안전에 대한 인식 변화에 영향을 미쳤을 가능성이 있습니다.
* 긍정적 반응 및 제안: 이 행정 명령은 AI 규제 반대론자들로부터도 긍정적인 평가를 받았으며, 미국인 책임 혁신(Americans for Responsible Innovation)과 보안 AI 연합(Alliance for Secure AI)은 AI 모델의 위험을 심각하게 받아들이고 있다는 점을 높이 평가하며, 의회에 의무적인 보호 조치를 법제화할 것을 촉구했습니다.
* 강제적 라이선스 또는 사전 승인 아님 명시: 행정 명령은 강제적 라이선스나 사전 승인의 형태가 아님을 명확히 합니다.

시사점

이번 행정 명령은 AI 기술 발전과 관련된 잠재적 위험을 관리하기 위한 연방 정부의 적극적인 개입 의지를 보여주며, AI 산업의 안전한 혁신과 국가 안보 강화라는 두 가지 목표를 균형 있게 추구하려는 움직임을 나타냅니다.