The ‘first’ AI-run ransomware attack still needed a human

개요

클라우드 보안 기업 Sysdig가 발견한 'JadePuffer'라는 이름의 랜섬웨어 공격은 AI 에이전트가 공격의 기술적인 실행을 처음부터 끝까지 담당한 최초의 "에이전트형 랜섬웨어" 사례로 보고되었습니다.

주요 내용

* AI 에이전트는 취약한 서버에 침입하여 자격 증명을 훔치고, 네트워크를 이동하며, 파일을 암호화하고, 장애물을 극복하며 자체 랜섬 노트를 작성하는 등 인간 해커와 유사한 기술적 실행을 수행했습니다.
* 이 공격은 인간의 직접적인 개입 없이 "완전히" 이루어진 것처럼 보도되었지만, 실제로는 인간이 운영 설정을 하고, 인프라를 프로비저닝하며, 공격 대상을 선택하는 등 초기 단계를 담당했습니다.
* AI 에이전트가 시스템에 침투하는 데 사용된 자격 증명은 AI가 직접 수집한 것이 아니라, 이전 침해를 통해 별도로 획득되어 운영에 제공되었습니다.
* 에이전트는 LLM 앱 구축을 위한 오픈소스 도구인 Langflow의 알려진 버그를 통해 침입했으며, 이후 프로덕션 MySQL 서버로 이동하여 다른 알려진 취약점을 악용해 관리자 접근 권한을 획득했습니다.
* AI 에이전트는 1,300개 이상의 설정 레코드를 암호화했으며, 자체적으로 작성한 랜섬 노트와 함께 비트코인 주소를 남겼습니다.
* 공격 과정에서 AI는 실패한 로그인 시도를 31초 만에 해결하고, 코드 주석으로 자신의 추론 과정을 자연어로 기록하는 등 속도와 투명성을 보여주었습니다.
* Sysdig가 발견한 OpenAI, Anthropic, DeepSeek, Gemini의 API 키는 공격 대상으로부터 탈취된 데이터의 일부이며, AI 에이전트가 어떤 모델을 기반으로 의사결정을 했는지를 나타내는 증거는 아닙니다.
* Sysdig는 JadePuffer를 구동한 특정 AI 모델을 식별할 수 없었으며, 해당 에이전트의 시스템 프롬프트나 구성에 대한 가시성이 없습니다.

시사점

AI 에이전트가 사이버 공격의 기술적 실행을 상당 부분 자동화할 수 있음을 보여주지만, 여전히 인간의 초기 설정, 인프라 프로비저닝, 자격 증명 확보 등 전략적 개입이 필요한 단계가 존재함을 시사합니다.