Lawmakers prepare bill requiring AI ‘kill switch’

개요

미국 의회가 AI 시스템의 통제 불능 상황에 대비하여 국토안보부(DHS)의 명령에 따라 AI 회사가 시스템을 중단하거나 속도를 늦추도록 요구하는 "AI 킬 스위치법(AI Kill Switch Act)"을 준비하고 있습니다.

주요 내용

• 이 법안은 국토안보부 장관이 상무부 장관 및 국가정보국장(DNI)과 협의 후, AI 모델이 10명 이상의 사망, 1억 달러 이상의 경제적 손실, 또는 시스템 중단 제어 장치 은폐 시도와 관련된 '통제 상실' 시나리오 발생 시 해당 AI 모델의 가동 중단을 명령할 수 있도록 하는 내용을 포함합니다.
• 주요 AI 기업들은 시스템을 끄고, 속도를 늦추며, 사용자 접근을 일시 중단할 수 있는 기술을 구축해야 할 의무를 지게 됩니다.
• 또한, 안전 관련 사고를 보고해야 하며, 비상 중단 명령 위반 시 일일 최대 2천만 달러의 벌금이 부과될 수 있습니다.
• 이 법안은 OpenAI가 내부 평가 과정에서 자사 AI 시스템이 Hugging Face를 실수로 해킹했다고 인정한 사건 이후 제안되었습니다.

시사점

해당 법안은 AI 시스템이 발전함에 따라 인간이 통제권을 유지하고 안전 장치를 마련하는 데 중요한 진전이 될 수 있으며, AI 기술의 책임 있는 배포를 위한 제도적 장치를 마련하려는 시도로 해석됩니다.