This Former DeepMind Exec Thinks the AI Arms Race Could End in Disaster

개요

Verity Harding 전 DeepMind 임원은 AI 기술 발전이 국제 협력 대신 초강대국 간의 경쟁과 국가주의적 접근으로 변질되고 있다고 지적하며, 이러한 'AI 군비 경쟁' 프레임이 장기적으로는 재앙적 결과로 이어질 수 있다고 경고한다.

주요 내용

• AI 군비 경쟁 프레임의 위험성: AI를 치명적인 무기로 묘사하는 것은 안전한 기술 개발과 혜택의 공정한 분배에 필요한 국제 협력을 저해하며, 소규모 국가들이 자신들의 이익에 반하는 강대국 진영에 줄 서게 만들 수 있다.
• 프레임 변화의 원인: 과거 DeepMind에서의 국제 협력 중심 연구 분위기에서 벗어나, 최근에는 OpenAI와 Anthropic 같은 개별 연구실 간의 경쟁과 미국-중국 간의 지정학적 대립이 AI 산업을 주도하게 되었다. ChatGPT의 등장, 팬데믹, 우크라이나 전쟁 등이 이러한 변화를 가속화했다.
• 민족주의적 AI 담론의 영향: 트럼프 행정부의 내셔널리즘적 AI 수사 및 수출 통제 시도는 군비 경쟁 프레임의 증거이며, 최악의 시나리오를 형성하고 있다.
• 국제주의적 접근의 중요성: 각국이 자체적으로 AI 기술을 개발하려는 고립주의적 접근은 비현실적이며, 칩, 희토류, 과학자 등 전략적 병목 현상을 초래한다. 유럽과 영국 등은 자체 역량 확보가 중요하지만, 이것이 국제주의와 대립하는 것은 아니다.
• 중간 강국 연합 제안: 캐나다, 프랑스, 일본, 한국, 인도, 영국 등 중간 강국들이 연합하여 기술 개발 및 정책 결정 과정에서 주도권을 확보하고, AI가 단순한 이분법적 초강대국 경쟁으로만 치부되는 것을 방지해야 한다.
• 상업화와 경쟁의 영향: 막대한 자본의 유입과 빠른 상업화 속도가 AI 군비 경쟁 담론에 영향을 미쳤으며, 주요 AI 연구소들은 이 경쟁 구도를 통해 자신들의 권력을 강화하려는 경향이 있다.
• 안전한 AI 개발과의 양립 가능성: 경쟁과 협력은 상호 배타적이지 않으며, 안전하고 책임감 있는 AI 개발과 병행될 수 있다. 그러나 '경쟁'이라는 언어는 차분하고 협력적인 계획 수립에 도움이 되지 않는다.
• 장기적 위험: 현재의 군비 경쟁 구도가 지속된다면, 결국 이러한 시스템에 대한 과도한 정부 통제 및 권력 중앙집권화로 이어져 안보, 식량 안보, 질병 종식 등과 같은 협력 과제를 해결하기 어렵게 만들고, 국가들이 특정 초강대국을 선택해야 하는 종속적인 위치에 놓이게 될 것이다.

시사점

AI 군비 경쟁이라는 프레임을 탈피하여 국제 협력을 강화하고 중간 강국 연합과 같은 새로운 거버넌스 모델을 모색하는 것이 AI 기술의 안전하고 혜택로운 발전을 위한 필수적인 과제이다.