AI cybersecurity is not proof of work

개요

AI 기반 사이버 보안의 미래는 '작업 증명(proof of work)' 방식과는 다르며, 더 나은 AI 모델과 접근성이 승패를 가를 것이다.

주요 내용

* '작업 증명'과의 차이점: '작업 증명'은 더 많은 컴퓨팅 파워(GPU)를 가진 쪽이 결국 승리하는 구조지만, AI 기반 버그 탐색은 컴퓨팅 파워보다는 AI 모델 자체의 지능 수준이 중요하다.
* LLM 실행의 상태 공간 포화: 다른 LLM 실행은 다른 분기를 따르지만, 결국 코드의 가능한 상태로 인해 탐색 가능한 경로가 포화된다.
* 버그 탐색의 한계: 많은 횟수로 모델을 샘플링해도, 결과는 컴퓨팅 파워에 비례하기보다는 AI 모델의 지능 수준에 의해 결정된다.
* OpenBSD SACK 버그 사례: 약한 모델은 아무리 많은 토큰을 사용해도 OpenBSD SACK 버그를 발견하지 못하는데, 이는 시작 창 유효성 검사의 누락, 정수 오버플로우, 그리고 NULL이 되어서는 안 되는 노드가 예상과 달리 처리되는 복합적인 문제점을 이해하지 못하기 때문이다.
* 약한 모델의 환각 현상: 약한 모델은 버그를 찾은 것처럼 보일 수 있으나, 이는 실제 문제 이해가 아닌 패턴 매칭에 기반한 환각 현상일 가능성이 높다.
* 강력한 모델의 장점: 강력한 모델은 환각 현상이 적어, 설령 버그를 발견하지 못하더라도 잘못된 결과를 제시할 확률이 낮다.

시사점

AI 사이버 보안은 더 많은 계산 능력을 투입하는 '더 많은 GPU가 승리하는' 방식이 아니라, 더 발전된 AI 모델과 그 모델에 대한 신속한 접근성이 핵심 경쟁력이 될 것이다.