Chinese cybercrime operation that used AI to scam ‘hundreds of thousands of victims’ sued by Google

개요

Google은 AI를 활용하여 수십만 명의 피해자를 대상으로 사기를 벌인 중국의 사이버 범죄 조직 'Outsider Enterprise'의 인프라를 해체하기 위해 소송을 제기했습니다.

주요 내용

* AI 기반 사기 운영: Outsider Enterprise는 Google 및 기타 브랜드를 사칭하는 문자 메시지를 보내 비밀번호와 신용카드 정보를 훔치는 AI 기반 캠페인을 운영했습니다.
* 피해 규모: 이 조직은 수십만 명의 피해자를 대상으로 수백만 달러의 재정적 피해를 입혔으며, 2주 동안 9,000개의 가짜 웹사이트, 100만 개의 사기성 웹 도메인, 250만 건의 문자 메시지를 배포했습니다.
* Google의 대응: Google은 AI 기반 도구를 사용하여 AI 기반 사기를 탐지하고 의심스러운 통화 및 문자 메시지에 대해 사용자를 경고하며, 월 100억 건 이상의 사기 메시지를 차단하고 있습니다.
* 협력 및 압수: Google은 AT&T, T-Mobile, Verizon과 협력하여 사기 문자 메시지를 차단하고 있으며, FBI와도 공조하고 있습니다. FBI는 Google 및 Lumen의 Black Lotus Labs와 협력하여 사이버 범죄자가 사용한 여러 도메인, Shopify 상점 및 계정을 압수했습니다.
* Outsider 플랫폼: Outsider Enterprise는 기술 수준이 낮은 범죄자도 AI 플랫폼(Google의 Gemini 포함)을 사용하여 가짜 웹사이트를 생성하고 피해자를 속일 수 있는 "phishing-for-dummies" 소프트웨어인 'Outsider'를 개발 및 유지 관리합니다. 이 소프트웨어는 주당 88달러 또는 월 200달러에 제공됩니다.
* 협업 및 훈련: 사이버 범죄자들은 Telegram 채널에서 협력하고, 서로 훈련하며, 전략을 논의하고, 피싱 공격을 개발합니다. Outsider 플랫폼은 290개 이상의 미리 만들어진 템플릿과 AI 생성 코드 무기화 가이드를 제공합니다.
* 피해자 정보 탈취: 피해자가 가짜 웹사이트에 입력한 데이터(비밀번호, 다단계 인증 코드, 금융 정보)는 실시간으로 전송되어 탈취됩니다.
* 운영 구조: Outsider Enterprise는 피싱 소프트웨어 개발자, 타겟 목록 공급자, 대량 문자 발송을 위한 도구 및 인프라 제공자("spammer group"), 탈취된 자격 증명으로 수익을 창출하고 돈을 세탁하는 그룹으로 구성됩니다.
* 피해 카드 및 금액: 95개국 금융 기관에서 발행한 최소 36,000개의 결제 카드가 탈취되었으며, 2023년 7월부터 2024년 4월까지 387만 건 이상의 신용카드가 탈취되어 약 19억 달러의 손실이 발생한 것으로 추정됩니다.
* Google의 고소 내용: Google은 Outsider Enterprise 배후의 인물들을 Google 및 자사 브랜드를 사칭하고, 저작권을 침해하며, 공갈, 전신 사기, 허위 광고 행위에 대해 고소했습니다.

시사점

Google의 이번 소송은 AI가 사이버 범죄에 악용되는 심각성을 보여주며, 기술 기업과 법 집행 기관이 사이버 위협에 맞서기 위해 협력해야 할 필요성을 강조합니다.