Discovering Cryptographic Weaknesses with Claude

개요

Claude Mythos Preview를 활용한 연구에서 암호화 알고리즘의 취약점을 공격하는 새로운 방식들이 발견되었으며, 이는 HAWK 디지털 서명 스킴과 AES 대칭 암호에 영향을 미친다.

주요 내용

* HAWK 디지털 서명 스킴 공격 개선: Claude Mythos Preview는 양자 컴퓨팅 시대에 대비된 HAWK 디지털 서명 스킴의 보안성을 약화시키는 공격 방식을 발견했다. 이 공격은 HAWK의 핵심적인 수학적 문제인 Lattice Isomorphism Problem에서 이전에는 알려지지 않은 대칭성(nontrivial automorphism)을 찾아내어, 기존 최선의 공격보다 효과적으로 HAWK의 키 강도를 절반으로 줄인다. 이로 인해 HAWK의 보안 수준을 유지하기 위해서는 키 크기를 두 배로 늘려야 하며, 이는 HAWK의 PQC 후보로서의 매력을 감소시킨다. Claude는 에이전트 기반 환경에서 인간의 지침과 함께 반자율적으로 이 공격을 발견하고 검증했다.
* 라운드 축소 AES 공격 개선: Claude Mythos Preview는 널리 사용되는 대칭 암호인 AES의 7라운드 축소 버전에 대한 공격 속도를 200~800배 향상시키는 새로운 방법을 발견했다. 이전 연구들은 2^105개의 선택된 평문을 요구하는 비실용적인 공격이었지만, Mythos는 Möbius Bridge라는 개선된 지문(fingerprinting) 알고리즘을 사용하여 이전의 가장 강력한 meet-in-the-middle 공격을 개선했다. 이로 인해 공격 과정에서 필요한 추측의 수를 크게 줄여 작업량을 감소시켰다. 이 발견은 주로 Claude가 자율적으로 수행했으며, 인간 연구자는 검증 작업에 집중했다.
* AI 기반 암호 분석 도구 및 벤치마크 개발: 연구자들은 LLM의 암호 분석 능력을 연구하기 위해 ETH Zurich, Tel Aviv University, TU Berlin과의 협력을 통해 CryptanalysisBench라는 벤치마크를 개발했다. 이는 다양한 암호 시스템을 포함하여 LLM의 능력을 쉽게 평가할 수 있도록 한다.
* 기타 암호 연구 결과: Claude Mythos Preview는 LEA(Lightweight Encryption Algorithm)의 13라운드 버전에 대한 실용적인 공격, Serpent-128의 6라운드 버전에 대한 실용적인 공격, 그리고 Salsa20, Poseidon, SHA-1에 대한 개선된 공격들을 발견했다. 이러한 공격들은 현재 전체 시스템에 즉각적인 영향을 미치지는 않지만, AI의 암호 분석 능력 발전을 보여준다.
* 연구 개발 과정 및 책임감 있는 공개: HAWK 공격 발견에는 약 60시간이 소요되었고 API 비용은 약 10만 달러가 들었으며, AES 공격 발견에는 Claude가 10억 개 이상의 토큰을 생성했고 마찬가지로 상당한 API 비용이 발생했다. 연구팀은 발견된 취약점에 대해 책임감 있는 공개 절차를 따랐으며, 관련 기관 및 학계와 협력하여 결과를 공유하고 논의했다.

시사점

AI 모델은 암호화 알고리즘 자체의 수학적 결함을 발견하는 능력을 입증했으며, 이는 향후 더욱 강력하고 복원력 있는 암호 시스템 개발에 중요한 역할을 할 것으로 기대된다. AI가 기존의 인간 전문가 검토를 넘어선 새로운 취약점을 자율적으로 발견함에 따라, 연구 커뮤니티는 이러한 결과의 검증, 혁신성, 유용성에 대한 인간 연구자들의 병목 현상에 직면할 수 있다.