Meta Ran Ads That Contained AI-Generated Child Sexual Abuse Imagery

개요

Mark Zuckerberg의 Meta가 AI로 생성된 아동 성적 학대 이미지(CSAM)를 포함한 유료 광고를 수개월간 게시했으며, 이 광고들은 미국, 영국 및 유럽 10여 개국에 거주하는 특정 사용자층을 대상으로 했다.

주요 내용

• Tech Transparency Project (TTP) 연구원들은 Meta의 광고 라이브러리에서 CSAM 및 미성년자와 성적으로 암시적인 문구가 포함된 50개 이상의 이미지 및 비디오 광고를 발견했다.
• 일부 광고는 'nudify' 또는 'undressing' 앱으로 연결되었으며, Facebook, Instagram, Messenger, Threads 등 Meta 플랫폼 전반에서 게시되었다.
• TTP의 Katie Paul은 이 광고들이 Meta에 의해 검토, 승인 및 게재되었으며, Meta가 광고 수익을 얻는 동안 어떠한 방해도 받지 않았다고 지적했다.
• 발견된 광고들은 작년 11월부터 올해 8월 초까지 게시되었으며, 일부는 남성만을 대상으로 하기도 했다.
• 한 비디오 광고는 "Generation AI로 깊은 환상을 실현하다"라는 텍스트와 함께 아동의 썸네일 이미지를 사용했고, 클릭 시 성행위에 연루된 성인의 영상과 함께 아동의 얼굴이 합성되었다.
• 또 다른 광고는 성적인 자세의 어린 소녀 이미지를 게시하며 "더 많은 것을 보여줄 수 있다"는 문구를 포함했다.
• 연구원들이 발견했을 당시 대부분의 광고는 활성화되어 있지 않았지만, 수개월간 Meta의 광고 라이브러리에 감지되지 않은 채 남아 있었다.
• 일부 광고는 수천 개의 계정에 도달했으며, 적어도 하나의 광고는 유럽 7개국 포함 총 2,563개의 계정에 도달했다.
• TTP는 이 광고들을 발견한 직후 미국 국립 실종 및 착취 아동 센터(NCMEC)의 CyberTipline에 신고했다.
• WIRED가 Meta에 문의한 후, Meta는 정책 위반으로 광고들을 삭제했으며, NCMEC에 신고된 내용에 대한 언급은 피했다.
• Meta 대변인은 "성적 착취는 끔찍하며, 이를 플랫폼에서 제거하기 위해 공격적으로 노력하고 있다. 이 광고들의 대부분은 도달 범위가 미미했으며, WIRED에 공유되기 전에 많은 수가 비활성화되었다. 또한, 새로운 AI 기술로 위반 광고를 더 잘 탐지하고 차단하기 위해 노력하고 있으며, 작년에 3,600만 개 이상의 아동 성 착취 콘텐츠를 제거하는 등 이러한 학대에 맞서 끊임없이 싸울 것"이라고 밝혔다.

시사점

Meta의 AI 기반 광고 검토 및 승인 시스템의 허점을 보여주며, AI 생성 콘텐츠의 오용 가능성과 플랫폼에서의 아동 보호 강화의 필요성을 시사한다.