Google and Pentagon reportedly agree on deal for ‘any lawful’ use of AI

개요

Google이 미국 국방부와 AI 모델을 "합법적인 정부 목적"으로 사용할 수 있도록 하는 계약을 체결한 것으로 알려졌습니다. 이 계약은 Google 직원의 반발과 OpenAI, xAI 등 다른 AI 기업들의 유사한 계약 체결 상황 속에서 이루어졌습니다.

주요 내용

• Google은 미국 국방부와의 계약을 통해 자사의 AI 모델을 "어떠한 합법적인 정부 목적"으로도 사용하도록 허용했습니다.
• 이 계약은 Google 직원들이 CEO Sundar Pichai에게 펜타곤의 AI 사용을 차단해 줄 것을 요구한 지 하루 만에 보도되었습니다. 직원들은 AI가 "비인간적이거나 극도로 해로운 방식"으로 사용될 수 있다는 우려를 표명했습니다.
• 이 합의가 확인될 경우, Google은 OpenAI, xAI와 함께 미국 정부와 기밀 AI 계약을 맺은 기업 대열에 합류하게 됩니다. Anthropic 역시 원래 이 목록에 있었으나, 국방부의 무기 및 감시 관련 AI 모델 가드레일 제거 요구를 거부하여 펜타곤 블랙리스트에 올랐습니다.
• 익명의 소식통에 따르면, 계약 내용은 양측이 Google의 AI 시스템이 "적절한 인간의 감독 및 통제 없이" 국내 대규모 감시나 자율 무기에 사용되지 않는다는 데 동의했음을 명시합니다.
• 그러나 계약은 Google에게 "합법적인 정부 운영 의사 결정에 대해 통제하거나 거부할 권리"를 부여하지 않으며, 이는 합의된 제한 사항이 법적 구속력이 있는 의무라기보다는 약속에 가깝다는 것을 시사합니다.
• 또한, 이 계약은 Google에게 정부의 요청에 따라 AI 안전 설정 및 필터 조정 지원을 요구합니다.
• Google 대변인은 "국가 안보를 지원하기 위해 AI 서비스 및 인프라를 제공하는 선도적인 AI 연구소, 기술 및 클라우드 기업의 광범위한 컨소시엄의 일원이 된 것을 자랑스럽게 생각한다"고 밝혔으며, 이 새로운 계약은 기존 정부 계약의 수정이라고 덧붙였습니다. 또한, "AI는 적절한 인간의 감독 없이 국내 대규모 감시나 자율 무기에 사용되어서는 안 된다는 민간 및 공공 부문 합의에 전념하고 있다"고 강조했습니다.

시사점

Google과 미국 국방부 간의 AI 사용 계약은 국가 안보와 AI 윤리 간의 복잡한 관계를 보여주며, 기술 기업들이 정부의 AI 요구 사항과 내부 직원의 윤리적 우려 사이에서 균형을 맞춰야 하는 과제를 시사합니다. 이 합의는 AI 기술의 책임감 있는 사용 및 규제에 대한 지속적인 논의를 촉발할 것으로 보입니다.