Google nixes its Earth AI feature one day after launch, amid criticism it would spread misinformation

개요

Google Earth에 새로 출시된 AI 이미지 생성 기능이 출시 하루 만에 중단되었습니다. 이 기능은 사용자가 Google Earth 내에서 인공지능을 활용하여 가상 이미지를 제작할 수 있도록 했으나, 잘못된 정보 확산에 대한 비판을 받았습니다.

주요 내용

• Google Earth는 사용자가 AI 이미지 생성기인 Nano Banana 2를 활용하여 위성 이미지 지도 앱 내에서 가짜 이미지를 만들 수 있는 기능을 목요일에 출시했습니다.
• 이 기능의 목표는 지리에 대한 창의성을 발휘하는 것이었으나, 비평가들은 이 도구가 잘못된 정보를 생성하고 퍼뜨리는 데 사용될 수 있다고 즉각 지적했습니다.
• 프롬프트 기반으로 거의 모든 이미지를 실제 지도 위에 겹쳐 놓을 수 있었던 이 도구는 지리 공간 정보에 대한 오염을 야기할 수 있다는 우려를 낳았습니다.
• BBC 기자는 이 기능이 언론인 및 연구자들에게 신뢰할 수 있는 시각적 증거의 원천 중 하나인 Google Earth에서 오용될 가능성을 지적했습니다.
• 출시 후 단 하루 만에 Google은 이 기능을 철회했습니다.
• Google은 성명서에서 지리 공간 전문가들이 이 기능을 유용하게 사용했지만, 자사 정책을 위반하는 것으로 보이는 생성된 이미지의 스크린샷이 공유되는 것을 목격했다고 밝혔습니다.
• Google은 더 강력한 안전 장치를 구현하는 동안 Google Earth에서 이 기능을 철회할 것이라고 덧붙였습니다.
• AI 시대에는 웹상에 존재하는 대부분의 이미지가 쉽게 조작될 수 있다는 점을 고려할 때, Google 도구에 대한 비판은 이해할 수 있습니다.
• 이제는 포토샵 전문가가 아니더라도 어느 정도 신빙성 있는 허위 정보를 만들 수 있으며, Google은 물론 다른 많은 AI 기업들도 AI 이미지 생성기를 판매하고 있습니다.

시사점

Google Earth의 AI 이미지 생성 기능이 출시 하루 만에 중단된 것은 AI 기반 콘텐츠 생성 도구가 잘못된 정보 확산에 미칠 수 있는 잠재적 위험성을 부각시켰으며, 기술 기업들이 책임감 있는 AI 개발 및 배포를 위해 더욱 강력한 안전 장치를 마련해야 할 필요성을 시사합니다.