Spooked by Mythos, Trump suddenly realized AI safety testing might be good

개요

도널드 트럼프 행정부가 AI 안전 테스트에 대한 입장을 번복하고 Google DeepMind, Microsoft, xAI와 협력하여 출시 전후로 기업의 최첨단 AI 모델에 대한 정부 안전 점검을 실시하기로 합의했습니다.

주요 내용

* AI 안전 테스트 정책 전환: 트럼프 행정부는 이전에 AI 안전 테스트를 규제로 보고 거부했지만, Anthropic의 Claude Mythos 모델 출시 위험에 대한 발표 이후 AI 안전에 대한 우려를 표명하며 입장을 변경했습니다.
* CAISI와 기업 간 협력: 미국 AI 안전 연구소(US AI Safety Institute)는 센터 for AI Standards and Innovation(CAISI)으로 이름을 변경했으며, Google, Microsoft, xAI와 자발적 협정을 체결하여 최첨단 AI 모델에 대한 정부의 안전 검토를 강화했습니다.
* 평가 과정 및 목표: CAISI는 출시되지 않은 모델을 포함하여 약 40건의 평가를 완료했으며, "축소되거나 제거된 안전 장치"가 있는 모델에 접근하여 국가 안보 관련 기능 및 위험을 보다 철저히 평가했습니다.
* 업계의 반응: Google DeepMind와 Microsoft는 CAISI의 테스트 계획에 대해 긍정적인 입장을 밝혔으며, 정부와의 협력이 필수적임을 강조했습니다.
* 비평가들의 우려: 일부 비평가들은 CAISI의 자금 부족, 전문성 부족, 평가 과정의 정치화 가능성을 지적하며, 자발적 약속만으로는 공개적인 투명성을 확보하기 어렵다고 주장합니다.
* "안전"의 정의 문제: CAISI가 구체적인 테스트 표준을 명시하지 않아 "안전"의 정의가 모호하다는 지적이 있으며, 이는 평가 과정의 정치화 및 기업에 대한 신뢰 저하로 이어질 수 있습니다.
* 독립적 감사 제안: 전문가들은 정치적 검토가 아닌 독립적이고 시기적절한 감사 시스템 구축을 제안하며, 이는 AI 기업의 책임감을 높이고 무모한 배포에 대한 실제적인 결과를 초래할 수 있다고 주장합니다.
* CAISI의 자금 현황: CAISI는 추가 자금을 승인받았으나, 국제적인 유사 기관에 비해 자금이 부족하다는 분석도 있습니다.

시사점

AI 안전 테스트에 대한 정부와 기업 간의 협력은 국가 안보를 보호하고 AI 기술의 신뢰성을 높이는 데 중요하지만, 명확한 표준 정의, 독립적이고 비정치적인 평가 프로세스 구축, 그리고 충분한 자금 확보가 성공적인 이행의 핵심 과제입니다.