Google stopped a zero-day hack that it says was developed with AI

개요

Google Threat Intelligence Group(GTIG)은 AI를 활용하여 개발된 최초의 제로데이 익스플로잇을 발견하고 중단시켰다고 발표했으며, 이는 사이버 범죄자들이 대규모 악용을 계획하던 중이었다.

주요 내용

* "저명한 사이버 범죄 위협 행위자"들이 해당 취약점을 악용하여 인증되지 않은 "오픈 소스, 웹 기반 시스템 관리 도구"의 2단계 인증(2FA)을 우회하려 했다.
* Google 연구원들은 익스플로잇에 사용된 Python 스크립트에서 AI의 도움을 시사하는 "환각적인 CVSS 점수" 및 LLM 훈련 데이터와 일치하는 "구조화되고 교과서적인" 형식과 같은 단서를 발견했다.
* 해당 익스플로잇은 플랫폼의 2FA 시스템에서 "개발자가 신뢰 가정을 하드코딩한" 높은 수준의 의미론적 로직 결함을 이용했다.
* GTIG는 적들이 AI 시스템의 유용성을 부여하는 자율 기술 및 타사 데이터 커넥터와 같은 통합 구성 요소를 점점 더 표적으로 삼고 있다고 관찰했다.
* 해커들은 AI가 보안 취약점을 찾도록 하기 위해 "페르소나 기반 탈옥"을 사용하고 있으며, AI 모델에 취약점 데이터를 전체 리포지토리로 공급하고 있다.

시사점

Google의 이번 발견은 AI가 사이버 공격 도구 개발에 직접적으로 활용될 수 있다는 것을 보여주는 중요한 선례이며, 향후 사이버 보안의 복잡성과 위협 수준을 더욱 높일 것으로 예상된다.