Here’s the problem with putting an AI image generator in Google Earth

개요

Google Earth의 AI 이미지 생성 기능이 현실을 왜곡하는 이미지를 생성하고 오정보 확산 가능성을 제기하여 논란이 되자 Google이 해당 기능을 철회했다.

주요 내용

* AI 이미지 생성 기능의 오용 가능성: 텍스트 프롬프트만으로 Google Earth의 위성, 항공, 3D 이미지를 활용하여 "멕시코 국경 근처 난민"이나 "가자 지구 병원 근처 폭탄 구덩이"와 같은 현실 왜곡 이미지를 생성할 수 있었다.
* Google의 초기 대응: Google은 AI 생성 이미지에 SynthID 디지털 워터마크를 적용하여 AI 생성 여부를 확인할 수 있다고 밝혔으며, Gemini의 "@verifyai" 태그 활용 및 Lens in Search 기능을 통해 의심스러운 이미지를 확인할 수 있다고 설명했다.
* 추가 검증 방법 제안: Digital Digging의 Henk van Ess는 Gemini 앱이나 Lens in Search 외에도 Sentinel-2, Landsat와 같은 다른 위성 플랫폼과의 비교, 그리고 이미지 촬영 시점 및 위성 정보와 같은 궤도 데이터 검증을 제안했다.
* 기능의 잠재적 위험성: 해당 기능은 웹 버전 Google Earth에 전 세계적으로 출시되었으며, 역사 유적지나 부동산 프로젝트 시각화 도구로 소개되었으나, 일부는 명백한 가짜 이미지로 판별되었음에도 불구하고 Nano Banana 2 기능은 오정보 확산에 충분히 설득력 있는 이미지를 생성할 수 있었다.
* 워터마크의 한계: Google의 워터마크는 제거가 어려울 수 있으나 불가능하지는 않으며, Digital Digging은 Google Earth의 AI 수정 영상을 Hive의 AI 탐지기를 속이는 데 성공했다.
* 기능 철회: Google은 해당 기능 출시 직후 논란이 불거지자 이를 철회했다.

시사점

AI 이미지 생성 기술은 강력한 시각화 도구를 제공하지만, 오정보 확산 방지를 위한 기술적, 윤리적 고려와 함께 사용자들의 비판적 검증이 필수적임을 보여준다.