AI grifters are creating fake Black people to sell Shein junk

개요

AI 기술을 이용해 가상의 흑인 여성 아바타를 생성하여 틱톡 등 소셜 미디어 플랫폼에서 저렴한 중국산 패스트 패션 제품을 홍보하는 사기 수법이 확산되고 있다.

주요 내용

* AI 생성 인플루언서의 등장: 'Aliyah'와 같은 AI 생성 인물들이 실제 수공예품을 판매하는 것처럼 보이게 하거나, 소외된 계층의 어려움을 강조하며 동정심을 유발하여 제품 구매를 유도한다.
* 가짜 스토리텔링과 상품: 이들 AI 아바타는 열악한 환경에서 힘들게 일하는 소규모 사업가로 묘사되며, 실제로는 션(Shein)과 같은 패스트 패션 사이트에서 유통되는 저렴한 대량 생산 제품을 판매한다.
* AI 식별의 어려움: AI 생성 영상은 종종 부자연스러운 목소리, 어색한 행동, 사라지는 흔적 등으로 AI임을 짐작게 하지만, 짧은 영상 시청에 익숙한 사용자들은 쉽게 알아차리지 못한다.
* 디지털 블랙 페이스 논란: 흑인 여성의 이미지를 사용하여 동정심을 유발하고 제품을 판매하는 행위는 '디지털 블랙 페이스'로 비판받으며, 이는 흑인 정체성을 이용한 경제적 이득 취득으로 이어진다는 분석이 있다.
* 알고리즘의 편향성: AI는 사용자의 기존 관심사를 바탕으로 맞춤형 콘텐츠를 제공하며, 이는 특정 인종이나 계층을 대상으로 한 AI 생성 인플루언서의 노출을 더욱 증가시킨다.
* 플랫폼의 책임 부재: 틱톡, 인스타그램, 페이스북 등 소셜 미디어 플랫폼은 AI 생성 콘텐츠를 탐지하고 라벨링하는 데 소극적이며, 이는 사기 수법 확산의 원인이 되고 있다.
* 사기 수법의 정교화: ChatGPT, Gemini와 같은 AI 도구를 활용하여 실제 인플루언서의 스크립트와 배경을 복제하고 AI 아바타로 대체하는 등, AI 생성 광고 제작 튜토리얼이 온라인에서 확산되고 있다.

시사점

AI 기술의 발전과 소셜 미디어 플랫폼의 미흡한 관리 감독은 가짜 인플루언서를 통한 대규모 전자상거래 사기를 조장하며, 미디어 리터러시 교육 강화 및 플랫폼 차원의 적극적인 콘텐츠 검증 시스템 구축이 시급하다.