They Dedicated Their Lives to Teaching. Then the Deepfakes Started

개요

AI 딥페이크 기술을 이용해 교사들의 성적으로 노골적인 이미지를 생성 및 유포하는 사건이 다수 발생하고 있으며, 이로 인해 교사들은 심각한 정신적 고통과 함께 직업적 회의감을 느끼고 있다.

주요 내용

* 교사 루이스 데산티아고 사례: 캘리포니아의 한 대리 교사가 자신의 부적절한 딥페이크 사진이 SNS에 유포되는 사건을 겪었다. 학생이 만든 것으로 추정되는 이 이미지는 원래 직장 사진을 변형한 것으로, 속옷 차림에 선정적인 포즈를 취하고 있었다. 학교 측은 해당 학생을 징계했으나, 이미지는 확산되었고 교사는 안전 문제로 인해 해당 학군 복귀를 꺼리게 되었다.
* 또 다른 교사들의 피해: 익명을 요구한 한 중학교 교사는 60대 동료 교사의 성적 행위를 묘사한 딥페이크가 유포되고, 자신의 얼굴을 합성한 AI 영상 계정이 만들어져 사생활을 침해당하는 경험을 했다. 이 사건은 가해 학생의 지속적인 괴롭힘으로 이어졌으며, 결국 학생이 학교를 떠나고 계정이 삭제되면서 마무리되었다.
* 영국 대학 교사의 사례: 영국 대학의 한 교사는 학생과의 대화 영상을 조작하여 노골적인 성적 행위를 하는 것처럼 보이는 딥페이크 영상을 제작한 사건을 겪었다. 이로 인해 교사는 학생들과의 관계에 대한 회의감을 느끼고 경계심이 높아졌다.
* 교사 루크 레드의 사례: 애리조나의 한 초등학교 교사는 동료 교사와 키스하는 딥페이크 이미지가 자신의 SNS에 유포되는 사건을 경험했다. 가해 학생은 3일 정학 처분을 받았으나, 교사는 학생들 사이의 AI 기술 오용 문화에 대한 우려를 표했다.
* 법적 및 학교의 대응: 비동의 성적 이미지 유포는 연방법 'Take It Down Act'에 따라 불법으로 간주될 수 있으며, 학교 내에서의 이러한 행위는 직장 내 성희롱으로 간주될 수 있다. 하지만 학교 측의 대응에 대한 명확한 지침이 없으며, 피해 교사는 학생 징계 결과에 대해 알림 받지 못할 수도 있다. Snapchat과 TikTok 등 플랫폼들은 이러한 콘텐츠에 대한 정책을 가지고 있으나, 효과적인 예방 및 삭제에는 어려움이 있다.
* 교사들의 심리적 영향: 딥페이크 사건을 겪은 교사들은 학생들에 대한 신뢰 상실, 직업적 회의감, 그리고 정신적 스트레스를 겪고 있으며, 학생들의 인터넷 및 AI 기술에 대한 인식 부족에 대한 우려를 표하고 있다.

시사점

AI 딥페이크 기술을 악용한 교육 현장에서의 성범죄 및 괴롭힘 문제는 교사들의 정신적, 직업적 안녕을 심각하게 위협하며, 이에 대한 교육적, 법적, 기술적 대응책 마련이 시급하다.