How Project Maven taught the military to love AI

개요

Project Maven은 미국 군대가 AI, 특히 컴퓨터 비전을 드론 영상 분석에 적용하여 표적 식별 및 선정 과정을 가속화한 사례를 다룹니다. 이 프로젝트는 초기 계약 업체였던 Google에서 직원들의 반발로 철수했지만, Palantir, Microsoft, Amazon, Anthropic 등 다른 기업들의 참여로 발전하여 현재 NATO에서도 사용되고 있습니다.

주요 내용

* Project Maven의 시작과 목적: 2017년, 당시 미 해병대 장교였던 Drew Cukor는 아프가니스탄에서 정보 도구의 부족함을 느끼고, AI를 활용하여 전선의 군사 작전가들에게 실시간으로 정보를 제공하는 '화이트 도트' 시스템 구축을 구상했습니다. 이는 드론 영상 분석에 컴퓨터 비전을 적용하는 실험으로 시작되었습니다.
* Google의 참여와 철수: Project Maven은 처음에는 Google이 맡았으나, AI 기술이 살상 무기 개발에 사용될 수 있다는 우려와 내부 직원들의 시위로 인해 Google은 프로젝트에서 철수했습니다.
* Palantir의 역할 및 기술 발전: Google 철수 후, Palantir가 핵심적인 역할을 맡게 되었으며, Microsoft와 Amazon Web Services(AWS)는 알고리즘 및 컴퓨팅 파워를 제공했습니다. Palantir는 Cukor의 '화이트 도트' 비전을 실현하기 위한 사용자 인터페이스 개발에 참여했으며, 현재 Maven Smart System의 주 계약업체가 되었습니다.
* 우크라이나 전쟁에서의 활용: 우크라이나 전쟁에서 Maven Smart System은 러시아군의 위치와 탱크 등을 파악하는 데 활용되었습니다. 초기 알고리즘은 설원 환경에서 제대로 작동하지 않아, 새로운 위성 영상을 기반으로 알고리즘을 재학습시키는 과정이 있었습니다. 미군은 이 시스템을 통해 파악된 '관심 지점(points of interest)'을 우크라이나에 제공하여 표적 선정에 도움을 주었습니다.
* 표적 선정 과정의 가속화: Maven Smart System은 기존에 수 시간이 걸리던 표적 선정 과정을 초 단위로 단축시켰습니다. 특히, LLM(Large Language Models)의 도입으로 인해 표적 식별 및 관련 정보 합성이 더욱 신속해졌습니다. 군대는 이를 통해 하루에 수백 개에서 수천 개의 표적을 처리할 수 있게 되었다고 밝히고 있습니다.
* AI 기반 무기 시스템의 미래: Maven Smart System은 이미 군사 작전의 '프로그램 오브 레코드(program of record)'가 되고 있으며, 향후에는 인간의 개입을 최소화한 자율 무기 시스템 개발로 이어질 가능성을 시사합니다.
* AI 활용에 대한 논쟁: AI 기반 표적 선정 과정의 가속화는 효율성을 높이지만, 데이터의 정확성, 오류 발생 가능성, 그리고 '전쟁의 게임화(gamification of war)'와 같은 윤리적 문제에 대한 논쟁도 존재합니다. 일부에서는 인간의 최종 판단이 오류를 막고 인명 피해를 줄이는 중요한 역할을 한다고 강조합니다.

시사점

Project Maven은 AI 기술이 군사 작전의 속도와 효율성을 혁신적으로 변화시킬 수 있음을 보여주지만, 동시에 데이터의 정확성, 윤리적 고려, 그리고 인간의 최종 판단이 결합된 신중한 접근이 필수적임을 시사합니다.