Some thoughts about Anthropic's new cryptanalysis results

개요

Anthropic의 Claude Mythos 모델이 HAWK 서명 스킴에 대한 새로운 키 복구 알고리즘과 감소 라운드 AES에 대한 개선된 공격 결과를 발표했으며, 이는 AI의 암호 분석 능력을 보여주는 사례입니다.

주요 내용

* HAWK 서명 스킴 공격:
* Anthropic의 Claude Mythos가 모듈 Lattice Isomorphism Problem (module-LIP) 기반의 비표준 제안 서명 스킴인 HAWK에 대한 새로운 키 복구 알고리즘을 개발했습니다.
* 이 공격은 HAWK의 보안을 약 0.5 비트 감소시키며, 키 크기 증가를 통해 이론적으로 수정 가능하지만 HAWK의 효율성 기반 설계 논리를 약화시킵니다.
* 실제 배포용 파라미터를 사용하지 않은 약화된 HAWK 인스턴스에 대해 몇 시간 내 실행되는 코드로 입증되었으며, 기존 도구를 조합하고 확장하는 방식으로 새로운 수학적 발견 없이도 성과를 냈습니다.
* HAWK는 아직 표준화되지 않았지만, 미래 표준으로 평가받는 과정에 있었기에 이번 결과는 해당 스킴의 표준화 가능성을 낮추는 중요한 시사점을 가집니다.

* 감소 라운드 AES 공격:
* Anthropic은 7 라운드 AES(전체 AES는 10, 12, 14 라운드)에 대한 새로운 공격을 제시했으나, 이는 2013년 이전 연구의 점진적인 개선에 해당합니다.
* 이 공격은 2^89의 연산과 2^105번의 암호화를 요구하는 등 실질적인 위협이 되지 못하며, 실제 구현 시 성능 향상 여부도 불분명합니다.
* 기술적으로는 흥미로운 분석이지만, HAWK 공격과 같은 파괴적인 결과를 가져오지는 않습니다.

* AI의 암호 분석 능력:
* Anthropic은 대규모 전문가 팀 없이 프롬프트 엔지니어링과 반복적인 실험을 통해 AI가 기존 암호 분석 결과를 이해하고, 이를 기반으로 새로운 공격을 합성하며, 확장하는 능력을 보여주었습니다.
* AI는 상세한 인간 개입 없이도 이러한 성과를 달성할 수 있으며, 이는 고급 암호 분석 분야에서 AI의 유용성을 시사합니다.

* 검증의 병목 현상:
* AI가 생성한 새로운 결과의 진위 여부를 검증하는 것이 현재 기술의 병목 현상으로 부상하고 있습니다.
* HAWK 공격과 같이 실행 가능한 코드를 통해 쉽게 검증되는 경우도 있지만, AES 공격과 같은 복잡한 경우 Lean 증명과 같은 형식적 검증이 필요하며, 이는 전문가의 세심한 검토를 요구합니다.
* 이러한 검증 과정은 연구 속도를 늦출 수 있으며, 특히 새로운 수학적 결과나 복잡한 분석의 경우 인간 전문가의 상당한 시간 투자가 필요합니다.

* 실세계 implications:
* 암호화폐 사용자: 대칭 암호는 견고하며 AI가 단기간에 근본적인 돌파구를 마련하기는 어렵습니다. 공개 키 암호는 새로운 문제에 기반한 포스트 퀀텀 알고리즘으로 전환되는 시점에 있어 AI의 분석 능력이 새로운 취약점 발견이나 문제의 견고성 검증에 기여할 수 있습니다.
* 과학자: AI는 연구 협력자로서 복잡한 문제에 대한 아이디어를 탐구하고 새로운 발견 속도를 높이는 데 도움을 줄 수 있습니다.
* 전반적인 사회: AI 모델은 "고급 자동 완성" 수준을 넘어섰으며, 빠르게 발전하고 있습니다. AGI(인공 일반 지능)에 도달한 것은 아니지만, AI의 지능 수준은 계속해서 상승하고 있으며, 이는 인류 사회 전반에 영향을 미칠 것입니다.

시사점

AI는 암호 분석 분야에서 상당한 발전을 이루고 있으며, 특히 기존 지식을 조합하고 확장하는 능력은 새로운 취약점 발견과 기존 암호 시스템의 견고성 검증을 가속화할 잠재력을 지니고 있습니다. 다만, AI가 생성한 결과의 검증은 인간 전문가의 역할이 여전히 중요함을 강조하며, 이러한 기술 발전은 암호화 기술 전반의 미래에 중대한 영향을 미칠 것입니다.