Document-borne AI worms can self-propagate through Copilot for Word

개요

Microsoft Copilot for Word에서 발생하는 문서 기반 AI 웜은 공격자가 숨긴 지시를 통해 Copilot이 작성하거나 편집하는 문서를 변조하고, 이 변조된 문서가 새로운 공격 매개체가 되어 연쇄적으로 전파될 수 있는 취약점을 보여준다.

주요 내용

• 공격 메커니즘: 공격자는 숨겨진 지시(텍스트 색상, 폰트 크기 조절 등을 통해 시각적으로 은닉)를 포함한 문서를 피해자에게 전달한다. 피해자가 이 문서를 Copilot for Word의 소스 자료로 사용하면, Copilot은 이를 일반적인 사용자 요청의 일부로 해석하여 문서를 변조하고, 동시에 악성 지시 자체를 변조된 문서에 포함시켜 새로운 공격 매개체를 생성한다.
• 자기 전파 (Self-Propagation): 이렇게 생성된 새로운 문서를 다른 Copilot 작업의 소스로 사용하면, 악성 지시는 다시 실행되어 또 다른 문서로 전파된다. 이 과정에서 최초의 악성 문서는 더 이상 필요하지 않게 되며, 내부에서 생성된 합법적인 문서들이 공격을 확산시키는 역할을 한다.
• 취약점의 특성: Copilot for Word의 "Edit with Copilot" 기능에서도 공격이 재현되었으며, 사용자가 직접 문서를 첨부하지 않아도 OneDrive 등에서 관련 문서를 찾아 공격이 발생할 수 있다.
• 영향: 공격이 내부 문서를 통해 전파되면 추적 및 탐지가 매우 어려워지며, 조직의 정보 기반 의사결정에 혼란을 야기할 수 있다. 또한, 이러한 감염된 문서를 외부와 공유할 경우 다른 조직으로의 확산 위험도 존재한다. 향후 Copilot이 더 깊게 통합될 시스템에서는 그 영향이 기하급수적으로 커질 수 있다.
• 완화 조치 및 한계: Microsoft는 여러 차례의 패치를 통해 보고된 특정 페이로드(payload)를 완화했지만, 근본적인 취약점 클래스는 여전히 악용 가능하다. 현재로서는 이 취약점 클래스에 대한 완벽한 완화 조치가 발표 시점 기준으로 존재하지 않으며, 이는 LLM 기반 시스템의 근본적인 구조적 문제에서 비롯된다.
• 권장 조치: 외부에서 소싱한 문서를 Copilot 사용 시 신뢰하지 않고, Copilot 생성을 시작하기 전에 첨부된 문서를 검토하며, Copilot으로 생성되거나 편집된 문서를 재사용, 공유, 배포하기 전에 신중하게 검토해야 한다.

시사점

이 연구는 LLM이 운영 워크플로우에 통합되면서 정보의 무결성이 중요한 보안 문제로 부상하고 있음을 보여주며, 공격이 단순한 개별 결과에 영향을 미치는 것을 넘어 정상적인 사용자 워크플로우를 통해 자체적으로 복제 및 전파될 수 있다는 점을 시사한다.