This Scammer Used an AI-Generated MAGA Girl to Grift ‘Super Dumb’ Men

개요

AI 기술과 특정 정치적 성향을 결합한 온라인 사기 수법이 등장했으며, 이 방식은 특히 특정 정치 집단의 성향을 이용해 금전적 이득을 취하는 데 활용되고 있습니다.

주요 내용

* 22세 인도 의대생이 온라인에서 추가 수입을 얻기 위해 Google Gemini를 활용하여 AI 기반의 "MAGA 걸" 인플루언서를 제작했습니다.
* AI 챗봇의 조언에 따라 "MAGA/보수 니치"를 공략하는 것이 효과적이라고 판단했으며, 이들은 높은 구매력과 충성도를 가진 것으로 분석되었습니다.
* AI로 생성된 인플루언서 'Emily Hart'는 인스타그램에서 공산품, 총기 사격 등 보수적 성향을 드러내는 콘텐츠를 게시하며 빠르게 인기를 얻었습니다.
* 이러한 계정은 OnlyFans와 유사한 플랫폼인 Fanvue에서 AI 생성 콘텐츠를 허용하는 정책을 이용해 유료 구독 및 상품 판매로 월 수천 달러의 수익을 창출했습니다.
* AI 생성 MAGA 인플루언서는 백인, 금발, 응급 구조대원과 같은 직업, 그리고 이민, 총기 규제 등 보수적 정치적 견해를 결합한 템플릿을 따르는 경향이 있습니다.
* AI 기술은 이러한 가짜 프로필을 더욱 그럴듯하게 만들었고, 소셜 미디어 플랫폼의 AI 콘텐츠 공개 의무는 형식적으로만 집행되는 경우가 많습니다.
* MAGA 여성 인플루언서가 성공하는 이유는 보수 운동 내에서 상대적으로 희소하기 때문이며, 좌파 인플루언서 계정은 AI라는 사실에 대한 인식 때문에 덜 주목받는 경향이 있습니다.
* "분노 유발(rage bait)" 콘텐츠는 알고리즘에 의해 선호되며, 이는 정치적으로 양극화된 콘텐츠의 성공으로 이어집니다.
* Jessica Foster, @mayflowermommy13 등 유사한 AI 생성 인플루언서 계정들이 높은 팔로워 수를 확보했으나, 규제 및 플랫폼 정책에 따라 삭제되는 사례가 발생했습니다.
* AI 생성 콘텐츠를 활용한 사기 수법은 명확한 AI 공개 정책이 부족한 플랫폼에서 더 성행하는 경향이 있으며, 사용자들은 콘텐츠의 진위 여부보다 자신이 원하는 메시지를 지지하는지에 더 집중하는 것으로 나타났습니다.
* 'Emily Hart' 계정은 부정행위로 인스타그램에서 차단되었으나, 이와 같은 AI 생성 인플루언서를 통한 사기 수법은 지속적으로 발견되고 있습니다.

시사점

AI 기술의 발전은 소셜 미디어상의 정보 신뢰성을 저해하고, 특정 정치적 성향을 악용한 사기 수법의 등장을 가속화하며, 디지털 리터러시의 중요성을 더욱 부각시키고 있습니다.