DeepMind CEO calls for an independent standards body to regulate frontier AI

개요

Google DeepMind CEO Demis Hassabis는 최첨단 AI 모델 출시를 감독하기 위한 독립적인 표준 제정 기구 설립을 제안했습니다.

주요 내용

• Demis Hassabis는 금융 산업 규제 기관(FINRA)과 유사한 모델을 기반으로 하는 "표준 제정 기구"를 통해 최첨단 AI 모델을 테스트하고 출시 모범 사례를 개발할 것을 제안했습니다.
• 초기 단계에서는 AI 연구소들이 모델 출시 최대 30일 전에 검토를 위해 자발적으로 표준 제정 기구에 모델을 공유하게 됩니다.
• 평가 프로토콜이 효과적이고 견고하다고 입증되면, 미국 시장에 배포되는 최첨단 모델은 이 프로토콜을 통과해야 하는 공식적인 요구 사항이 될 수 있습니다.
• AI 연구소들은 또한 출시 후 발생할 수 있는 치명적인 취약점 해결을 위해 표준 제정 기구와 협력하게 됩니다.
• 이 제안은 기존 정부의 임시 검토 방식에서 발생하는 기술 전문성 부족 및 불투명한 의사 결정에 대한 비판을 해결하고자 합니다.
• 제안된 규제 기구는 미국 정부의 지원을 받지만 AI 산업의 자금 지원으로 운영되며 독립적으로 운영될 것입니다.
• Hassabis는 이 기구가 오픈 소스 대표, 업계 기술 전문가, 그리고 필요한 재정적 지원을 갖추도록 구상하고 있습니다.
• 특정 위험에 전문화될 수 있는 AI 안전 그룹들에게 일부 평가를 아웃소싱하는 방안도 고려될 수 있습니다.
• 이 접근 방식은 기술에 중점을 두면서도 혁신을 지원하고 책임감 있는 행동을 장려할 수 있다는 장점이 있습니다.

시사점

Hassabis의 제안은 AI 기술의 빠른 발전 속도와 잠재적 위험에 대응하기 위해 산업 주도의 독립적인 규제 프레임워크가 필요함을 시사합니다.