Google and Pentagon reportedly agree on deal for 'any lawful' use of AI

개요

Google이 미국 국방부와 AI 모델을 "합법적인 정부 목적"으로 사용할 수 있도록 하는 비공개 계약을 체결했다는 보도가 나왔다.

주요 내용

* Google은 미국 국방부와 AI 모델을 "합법적인 정부 목적"으로 사용할 수 있도록 허용하는 비공개 계약을 체결한 것으로 알려졌다.
* 이 계약은 Google 직원들이 CEO Sundar Pichai에게 AI 모델이 "비인간적이거나 극도로 해로운 방식"으로 사용될 수 있다는 우려 때문에 국방부의 AI 사용을 차단해달라고 요구한 지 하루도 채 안 되어 보도되었다.
* 계약 조건에 따르면, Google의 AI 시스템은 "적절한 인간의 감독 및 통제 없이는" 국내 대량 감시나 자율 무기에 사용되지 않기로 합의되었으나, 이는 Google에게 합법적인 정부 운영 의사 결정에 대한 통제권이나 거부권을 부여하지 않는 것으로 해석될 수 있다.
* 또한, 계약에는 정부의 요청에 따라 AI 안전 설정 및 필터를 조정하는 데 Google이 지원하도록 요구하는 내용이 포함되어 있다.
* Google 대변인은 "국가 안보를 지원하기 위해 AI 서비스와 인프라를 제공하는 주요 AI 연구소 및 기술, 클라우드 기업의 광범위한 컨소시엄의 일부가 된 것을 자랑스럽게 생각한다"고 밝히며, 이번 합의가 기존 정부 계약의 수정 사항임을 덧붙였다.
* Google은 "AI가 적절한 인간의 감독 없이는 국내 대량 감시나 자율 무기에 사용되지 않아야 한다"는 민간 및 공공 부문의 합의에 전념하고 있다고 강조했다.
* Anthropic은 무기 및 감시 관련 보호 장치를 AI 모델에서 제거하라는 국방부의 요구를 거부하여 국방부에 의해 블랙리스트에 오른 후 목록에서 제외되었다.

시사점

Google과의 이번 계약은 OpenAI 및 xAI와 같이 이미 미국 정부와 비공개 AI 계약을 맺은 기업들과 동일한 선상에 Google을 놓이게 하며, AI 기술의 국방 및 안보 분야 활용에 대한 논의를 심화시킨다.