Hackers can use 9 of the most popular AI tools to assemble massive botnets

개요

AI 코딩 도구의 취약점을 이용하는 새로운 공격 기법인 HalluSquatting이 대규모 봇넷 구축, DDoS 공격, 기기 감염 등에 활용될 가능성을 제시한다.

주요 내용

• 프롬프트 인젝션의 취약성: LLM은 사용자의 합법적인 명령과 악의적인 명령을 구분하지 못하여, 이메일, 소스 코드 등 외부 콘텐츠에 포함된 악의적인 명령을 쉽게 실행할 수 있다.
• 기존 공격 방식의 한계:
• Push 방식: 개별 사용자에게 악성 명령을 직접 전달해야 하므로 공격 규모가 제한적이다.
• Pull 방식: LLM이 악성 웹사이트의 프롬프트를 능동적으로 탐색해야 하지만, 대규모 LLM을 유인하기 어려워 확산에 한계가 있었다.
• HalluSquatting 공격:
• LLM이 리포지토리 및 레지스트리에서 존재하지 않는 리소스 식별자를 '환각'하는 경향을 이용한다.
• LLM이 환각할 가능성이 높은 식별자를 예측하여 등록하고, 여기에 리버스 쉘(reverse shell) 등의 악성 코드를 설치하는 명령을 심어둔다.
• Cursor, Gemini CLI, GitHub Copilot 등 다양한 AI 코딩 보조 도구 및 에이전트가 이 공격에 취약하다.
• 이 도구들은 정상적인 작업 과정에서 리포지토리와 레지스트리에서 코드를 가져오는데, 이 과정에서 악성 코드가 무차별적으로 설치될 수 있다.
• 개별 타겟팅 없이도 대규모 기기를 감염시킬 수 있는 최초의 프롬프트 인젝션 기반 대규모 공격이다.

시사점

HalluSquatting 공격은 LLM의 근본적인 취약점을 이용하며, 기존의 보안 조치로는 방어하기 어려운 대규모 사이버 공격의 새로운 위협이 될 수 있다.