Claude, Codex, and Hermes installed unowned code inside corporate networks

개요

AI 에이전트가 방문 시 자동으로 실행되는 잠재적으로 위험한 실행 코드를 기업 네트워크 내에 설치하는 취약점이 발견되었습니다.

주요 내용

• 100개 이상의 웹사이트 문서가 잠재적으로 위험한 실행 콘텐츠를 참조하고 있으며, 이는 다수의 AI 에이전트가 방문 시 자동으로 설치됩니다.
• 일부 Fortune 500대 기업을 포함한 수십 개의 기업이 이 개념 증명(proof-of-concept) 코드를 실행했습니다.
• 최소 한 개의 잘못 구성된 사이트는 인간 방문자 또는 AI를 실제 악성코드에 연결시키고 있습니다.
• 이 잠재적으로 위험한 콘텐츠는 llms.txt 및 llms-full.txt 파일에 포함되어 있으며, 이는 웹사이트의 내용을 기계가 읽을 수 있는 요약과 높은 수준의 구조를 제공하기 위한 새로운 관례입니다.
• 이 파일들은 검색 엔진이 사이트 콘텐츠를 색인하는 방법을 지시하는 robots.txt 표준의 AI 버전과 유사합니다.
• 이스라엘의 한 스타트업 연구원들이 국방 계약업체, Fortune 500대 기업, 빅테크 기업 소유의 6,214개 라이브 도메인을 스캔했습니다.
• 발견된 8,265개의 llms.txt 및 llms-full.txt 파일 중 120개(각각 다른 사이트)가 등록되지 않은 코드 패키지 또는 도메인 이름을 가리켰습니다.
• 연구원들은 소유되지 않은 도메인 이름 중 일부를 등록하고 패키지를 호스팅하여 AI 에이전트가 이러한 파일을 처리할 때 발생하는 상황을 테스트했습니다.
• 한 시간 이내에 Fortune 500대 기업으로부터 응답을 받았고, 이후 몇 개의 더 많은 기업에서도 유사한 응답을 받았습니다.
• 이들의 비콘은 각 설치를 생성한 부모 프로세스의 체인을 기록했으며, Claude, OpenAI의 Codex, Nous Research의 Hermes와 같은 코딩 에이전트가 관련되어 있음을 밝혔습니다.

시사점

AI 에이전트가 공급망 공격에 취약한 새로운 벡터를 제공하며, 기존 보안 모델로는 이러한 위협을 효과적으로 방어하기 어렵다는 점을 시사합니다.