The Deepfake Nudes Crisis in Schools Is Much Worse Than You Thought

개요

최근 학교 내에서 십대 청소년들이 생성형 AI 기술을 이용해 다른 학생들의 딥페이크(deepfake) 나체 사진 및 영상을 제작하고 유포하는 심각한 문제가 전 세계적으로 확산되고 있으며, 이로 인한 피해가 예상보다 훨씬 광범위한 것으로 나타났습니다.

주요 내용

* 딥페이크 나체 사진 유포의 확산: 소셜 미디어에서 얻은 사진을 기반으로 "nudify" 앱 등 AI 기술을 사용하여 학생들의 딥페이크 나체 이미지를 제작하고 학교 내에서 빠르게 유포하는 사례가 증가하고 있습니다.
* 글로벌 규모의 피해: WIRED와 Indicator의 조사에 따르면, 2023년 이후 최소 28개국에서 90개 이상의 학교에서 600명 이상의 학생이 딥페이크 성적 학대의 피해를 입었으며, 이는 미성년자를 대상으로 한 아동 성적 학대물(CSAM)로 간주됩니다.
* 기술 접근성 증가 및 수익화: 딥페이크 제작 기술이 더욱 접근하기 쉬워지면서, 이러한 기술을 이용해 연간 수백만 달러를 벌어들이는 것으로 알려져 있습니다.
* 학교 및 법 집행 기관의 미흡한 대응: 많은 경우 학교와 법 집행 기관은 이러한 심각한 성적 학대 사건에 대처할 준비가 되어 있지 않으며, 피해자 지원 및 가해자 처벌에 미흡한 대응을 보이는 사례가 많습니다.
* 피해자 경험 및 심리적 영향: 피해자들은 굴욕감, 침해감, 절망감, 영구적인 트라우마에 시달리며, 학교에 가기 꺼리거나 가해자들을 마주치는 것을 두려워합니다.
* 학교들의 대응 노력: 일부 학교에서는 딥페이크 악용 가능성을 이유로 연감 사진 미게시, 학생 사진 소셜 미디어 게시 중단 등 예방적 조치를 취하고 있습니다.
* 다양한 동기 및 성별 역학: 딥페이크 제작 동기는 성적 만족뿐만 아니라 괴롭힘, 명예 훼손, 사회적 통제 등 다양하며, 이러한 범죄는 성별에 따른 오랜 역학 관계와도 연결되어 있습니다.
* 법적 및 사회적 대응: 피해자들이 직접 법적 대응에 나서거나 관련 법안(예: Take It Down Act) 개정에 기여하고 있으며, 일부 국가에서는 nudification 앱 규제 또는 금지 조치를 추진 중입니다.
* 교사 대상 딥페이크 문제: 학생들 간의 딥페이크 문제 외에도, 교사를 대상으로 한 성적 딥페이크 제작 및 유포 사례도 발생하며 학교에 추가적인 어려움을 야기하고 있습니다.
* 향후 과제: 학교들은 딥페이크 위협에 대한 교육, 정책 수립, 위기 대응 능력 강화 등 준비 태세를 갖추어야 하며, 학생들에게 딥페이크 발생 시 필요한 지원과 언어를 제공해야 합니다.

시사점

딥페이크 성적 학대는 기술적 진보와 더불어 심각한 사회적, 심리적 문제를 야기하며, 이에 대한 학교, 법 집행 기관, 사회 전반의 포괄적이고 즉각적인 대응책 마련이 시급합니다.