Once popular for attacking AI, ASCII smuggling is embraced by spammers

개요

AI 공격에 사용되었던 ASCII 스머글링 기법이 스팸 메일 필터 우회를 위해 스패머들에게 채택되었다. 이 기법은 본래 LLM의 프롬프트 인젝션 공격을 은밀하게 만들기 위해 사용되었으나, 이제는 악성 키워드를 숨겨 탐지 시스템을 회피하는 데 활용되고 있다.

주요 내용

• ASCII 스머글링은 유니코드 태그를 사용하여 사람이 읽을 수 없는 문자 형태로 악성 프롬프트를 숨기는 기법이다.
• U+E0041과 같이 특정 유니코드 태그는 ASCII 문자를 모방하지만, 컴퓨터는 인식하고 사람은 거의 볼 수 없는 특징을 가진다.
• 이는 LLM은 악성 지시를 감지하지만, 사람은 이메일 내용을 읽을 때 이를 알아채기 어렵게 만든다.
• 마이크로소프트는 올 초부터 ASCII 스머글링 기법을 사용한 스팸 메시지가 대폭 증가하는 것을 감지했다.
• 2월 초 하루 약 21,000건이던 ASCII 스머글링 관련 시그니처 탐지가 4일 만에 250만 건으로 급증했으며, 이러한 현상은 몇 달간 지속되었다.
• 스팸 발송자들은 악성 키워드를 숨겨 탐지 시스템을 회피하는 데 이 기법을 사용하며, 이는 탐지 시스템을 우회하는 데 효과적이다.

시사점

ASCII 스머글링은 AI 보안 분야에서 시작된 기법이 스팸 및 악성 콘텐츠 유포의 새로운 수단으로 전용될 수 있음을 보여주며, 탐지 시스템의 지속적인 발전과 새로운 우회 기법에 대한 대응 전략 마련의 중요성을 시사한다.