San Francisco orders Apple, Google to remove nudify apps from app stores

개요

샌프란시스코 지방검찰청이 Apple과 Google에 13개의 'nudification' 앱을 앱 스토어에서 삭제하라고 명령했으며, 이러한 앱은 AI를 사용하여 일반 사진을 노골적인 이미지로 변환하는 데 악용될 수 있습니다.

주요 내용

* 샌프란시스코 지방검찰청장 David Chiu는 Apple과 Google에 13개의 'nudification' 앱을 앱 스토어에서 제거하도록 요구하는 중지 명령 서한을 보냈습니다.
* Nudification 앱은 AI를 활용하여 일반 사진에서 의복을 제거하거나, 인물의 외모를 변경하거나, 성적으로 노골적인 포즈를 취하게 하거나, 다른 사람의 나체 이미지에 피해자의 얼굴을 합성하는 등 악의적인 목적으로 사용될 수 있습니다.
* Chiu 검찰청장은 앱 스토어가 '딥페이크 포르노를 생성하는 서비스를 지원하는 것을 금지하는 캘리포니아 법률'을 위반했다고 경고했습니다.
* 이러한 기술은 주로 여성과 어린이를 대상으로 하며, 괴롭힘, 굴욕감, 위협, 명예 훼손, 정신 건강 문제, 자율성 상실 등을 야기하며 심지어 피해자를 극단적인 생각으로 몰아갈 수 있습니다.
* Apple에는 8개, Google에는 5개의 앱 제거를 요청했으며, 보고서에는 앱 이름이 명시되지 않았습니다.
* 일부 앱은 백만 건 이상의 다운로드를 기록했으며, 여성 이미지의 성적 조작이나 '무료 및 무검열' 영상 제작 기능을 광고했습니다.
* Chiu 검찰청장은 동의 없이 개인적인 이미지를 생성하는 것은 불법적이고 해로우며 용납할 수 없다고 강조했습니다.
* 샌프란시스코 지방검찰청은 Apple과 Google이 이러한 유해 앱을 방치하고 수수료를 통해 수백만 달러를 벌어들였다고 추정했습니다.
* Google 대변인은 신고된 5개 앱이 Google Play 스토어에서 유해 콘텐츠 정책 위반으로 정지되었으며, Google Play는 성적 콘텐츠를 포함하는 앱을 허용하지 않고 유해 콘텐츠를 탐지 및 제거하기 위한 사전 조치를 지속적으로 취하고 있다고 밝혔습니다.

시사점

이 사건은 AI 기술의 악용 가능성과 앱 스토어 플랫폼의 책임 소재를 분명히 보여주며, 플랫폼 사업자들이 유해 콘텐츠 제거에 대한 더 강력한 조치와 기술 개발의 필요성을 시사합니다.