Trump’s AI testing plan is limited and vague

개요

트럼프 행정부의 고급 AI의 잠재적 사이버 보안 위험 평가 프레임워크가 오픈 소스 모델을 테스트 대상에서 제외하고 명확한 정의가 부족하여 한계와 모호성을 지닌다는 보도가 나왔습니다.

주요 내용

* 해당 프레임워크는 오픈 소스 AI 모델을 테스트 대상에서 명시적으로 배제하며, 이미 출시된 오픈 모델을 제한하는 데 사용될 수 없다고 명시합니다.
* 이 프레임워크는 6월 대통령 행정 명령에 따라 AI 기업들이 사이버 보안 우려 해소를 위해 개발 전 연방 정부에 최첨단 모델을 공유하도록 요청한 후 만들어졌습니다.
* 프레임워크는 신규 모델 검토를 위한 30일의 유예 기간을 설정하며, 최첨단 기능을 갖추고 국가 안보 위험을 초래하는 폐쇄 소스 AI 모델에만 적용됩니다.
* 하지만 "최첨단" 또는 "국가 안보 위험"에 대한 구체적인 정의가 프레임워크에 포함되어 있지 않아 모호성이 존재합니다.
* AI 기업들이 이 자발적 프레임워크를 준수할 의무는 없으나, OpenAI 및 Anthropic과 같은 첨단 연구소들은 정부 규제를 촉발하지 않고 모델을 출시하는 방법에 대한 지침을 적극적으로 모색하고 있습니다.
* 최첨단 또는 국가 안보 위험의 정의가 부족하여 중소 AI 제공업체에게는 백악관과의 관계 유지에 문제가 될 수 있습니다.

시사점

트럼프 행정부의 AI 테스트 프레임워크는 오픈 소스 모델을 포괄하지 않고 핵심 용어에 대한 정의가 부족하여, AI 보안 위험을 평가하고 관리하는 데 실질적인 효과가 제한적일 수 있습니다.