Mythos attack on 3rd-round PQC algorithm candidate puts it out of commission

개요

Anthropic의 AI 모델 Mythos가 NIST PQC 알고리즘 후보 중 하나인 HAWK에서 발견한 취약점으로 인해 해당 알고리즘이 최종 표준 경쟁에서 제외되었습니다.

주요 내용

* HAWK 알고리즘의 탈락: HAWK는 양자 컴퓨팅 공격에 대비한 디지털 서명 알고리즘으로, NIST의 PQC 알고리즘 평가 3차 심사 단계에서 Anthropic의 AI 모델 Mythos가 심각한 취약점을 발견하면서 후보에서 제외되었습니다. HAWK 개발자는 이 결과에 따라 알고리즘을 자진 철회했습니다.
* Mythos 모델의 역할: Mythos는 HAWK 알고리즘의 기반이 되는 격자 동형 문제(Lattice Isomorphism Problem)의 공격에 대한 기존 방법들을 조합하여 새로운 비대칭 대칭(automorphism symmetries)을 찾는 방법을 발견했으며, 이로 인해 HAWK의 키 강도를 절반으로 줄일 수 있는 공격이 가능해졌습니다.
* AES 암호에 대한 영향: Mythos는 널리 사용되는 AES 암호에 대해서도 "meet-in-the-middle" 공격 방식을 개선하는 데 기여했습니다. 이 개선을 통해 필요한 명시적 평문(plaintext) 입력 수를 2^105에서 2^89로 줄여 공격 가능성을 높였지만, 실제 환경에서의 공격은 여전히 비현실적입니다.
* 연구 결과의 해석: 발견된 취약점들은 현재 사용 중인 암호 시스템을 즉시 깨뜨리는 것은 아니며, 공격에 필요한 계산량이나 환경 등 몇 가지 제한 사항이 존재합니다. 또한, 테스트에 사용된 암호 시스템은 공식 사양보다 약화된 "챌린지 인스턴스"였습니다.
* AI 기반 암호 분석의 가능성: Mythos의 성과는 새로운 수학적 개념을 발명한 것이 아니라 기존의 알려진 도구들을 효과적으로 조합했다는 점에서 주목받고 있습니다. 이는 AI가 암호 분석 과정에서 기존 인간 연구자들이 생각하지 못했던 방식으로 문제를 해결할 수 있음을 시사합니다.
* 향후 전망: AI 모델이 암호 시스템의 취약점을 더 효율적으로 발견하게 되면서, 인간 연구자들이 이러한 결과의 타당성을 검증하고 해석하는 데 병목 현상이 발생할 수 있다는 전망이 있습니다. AI 기반 암호 분석의 잠재력은 분명하며, 보안과 공격 사이의 경쟁에서 중요한 역할을 할 것으로 예상됩니다.

시사점

Anthropic의 Mythos 모델을 활용한 HAWK 알고리즘의 취약점 발견은 AI가 암호 분석 분야에서 기존 연구 방식의 한계를 넘어서는 새로운 가능성을 제시했으며, 향후 보안 및 암호 연구 개발에 중요한 영향을 미칠 것으로 보입니다.