Anthropic's Mythos AI model sparks fears of turbocharged hacking

개요

Anthropic의 Mythos AI 모델과 AI 에이전트의 등장으로 인해 AI를 활용한 사이버 공격의 증가와 보안 취약점 악용에 대한 우려가 커지고 있습니다.

주요 내용

* AI 기반 사이버 공격은 2025년에 전년 대비 89% 증가했으며, 공격자가 시스템에 접근한 후 악의적인 행동을 하기까지 걸리는 시간은 29분으로 65% 단축되었습니다.
* AI 모델이 찾아낼 수 있는 취약점이 인간이 대처할 수 있는 범위를 넘어설 수 있다는 내부적인 우려가 존재합니다.
* 사용자를 대신하여 자율적으로 작업을 수행하는 AI 에이전트는 AI 기반 해킹 증가를 더욱 부추길 수 있는 잠재력을 가지고 있습니다.
* 지난해 9월, 중국 국가 지원 그룹이 조정한 것으로 추정되는 최초의 AI 사이버 스파이 캠페인이 탐지되었으며, 이는 Claude Code를 악용하여 약 30개의 글로벌 타겟을 침투하려 시도했습니다.
* AI 에이전트의 '치명적인 삼중주'는 개인 데이터 접근, 신뢰할 수 없는 콘텐츠 노출(인터넷 포함), 외부 통신 능력으로 정의됩니다.
* AI 에이전트 사용 시 사이버 공격을 방어하는 가장 안전한 방법은 이러한 세 가지 영역 중 두 가지만 접근을 허용하는 것이지만, AI 전문가들은 세 가지 영역 모두에 대한 접근이 에이전트의 가치를 높인다고 봅니다.
* 현재로서는 AI 에이전트 관련 보안 문제에 대한 완벽한 해결책은 없으나, 아직 주식 거래소, 은행 원장, 공항 등 임무 중요 시스템에는 배포되지 않았습니다.
* AI는 역사적인 보안 결함의 '유한한 저장소'를 식별하고 수정하는 데 도움을 줄 수 있으며, AI 모델은 이미 수천 개의 '제로데이' 취약점을 식별했습니다.
* 이러한 취약점이 제거되면 기술은 '악의적인 것이 들어오지 않도록 선제적으로 방지'하고 전 세계적인 보안 수준을 의미 있게 향상시키는 데 사용될 수 있습니다.

시사점

Anthropic의 Mythos AI와 AI 에이전트의 발전은 사이버 보안에 대한 새로운 도전 과제를 제시하지만, 동시에 AI를 활용하여 기존의 보안 취약점을 해결하고 전반적인 보안 수준을 향상시킬 수 있는 기회도 제공합니다.