Designing an AI Evidence Gateway: Durable WAL, Portable MMR Proofs, and Bounded Formal Checks

개요

Aegis Latent Core는 LLM 트래픽에 대한 거버넌스와 증거 기록을 위한 AI 거버넌스 및 증거 게이트웨이로, 제공자 인식 요청 제어, 스트리밍 데이터 정제, 내구성 있는 증거 기록, 휴대용 Merkle Mountain Range (MMR) 포함 증명, Python 및 TypeScript 통합, 그리고 범위가 좁은 형식적 검사를 구현합니다.

주요 내용

* Aegis Latent Core의 기능: LLM 트래픽을 위한 AI 거버넌스 및 증거 게이트웨이로서, 인증, 정책 적용, 요청 전달, 그리고 완료 후 남는 증거 기록에 중점을 둡니다.
* 요청 및 증거 경로: 애플리케이션과 모델 제공자 사이에 위치하며, 비스트리밍 및 스트리밍 경로 모두에 대한 인증, 본문 바운드 적용, WAF, 세션, 속도 제한 제어를 공유합니다.
* 내구성 있는 WAL (Write-Ahead Log): 비스트리밍 트래픽의 경우, 응답 반환 전에 내구성 있는 증거 게이트를 통과하며, append-only JSONL WAL에 체인 연결, 요청/응답 해시, 증명 메타데이터, 서명 메타데이터, 요청 ID를 저장합니다. fsync 호출은 OS에게 디스크 동기화를 요청하지만, 전원 손실 동작, 복제 볼륨 내구성, 불변 저장, 외부 보관 등을 직접 증명하지는 않습니다.
* Rust WAL: 보조 복사본으로 터미널 스트리밍 프레임을 바운드된 메모리 매핑된 세그먼트에 저장하지만, 주요 재현 권한은 fsynced JSONL WAL입니다.
* 바운드된 스트리밍 정제: 스트리밍 개인 정보 보호를 위해 청크 경계 문제를 해결하며, 전체 응답 버퍼링 대신 유한한 문자 보류를 사용하여 식별자를 처리합니다. 스트림 경로는 바이트, 항목, 이벤트 크기, 누적 출력, 미리보기 보존, 비식별 창, 지속 시간 등에 대한 스트림별 바운드를 적용합니다.
* 휴대용 MMR (Merkle Mountain Range) 포함 증명: aegis-mmr-inclusion-v1 형식을 사용하여 클라이언트가 게이트웨이의 메모리 내 MMR 상태 없이 공급된 루트에 상대적으로 노출된 리프 다이제스트가 포함되었는지 확인할 수 있습니다.
* Python 및 TypeScript 통합: Python SDK (aegis-latent-sdk==4.0.0)와 TypeScript SDK (aegis-latent-sdk@4.0.0)를 제공하며, OpenAI 및 Anthropic 통합을 지원합니다.
* 형식적 검사: 토큰 버킷 산술, 스트림별 메모리 보존 산술, 내구성 있는 방출 전 단계 정리, append-only 원장 접두사, 유한 요청 모델에서의 방출 전 커밋, 세션-원장 바인딩 등 SMT-LIB 검사, Lean 4 정리, TLA+/TLC 모델을 활용합니다.
* 감사 대시보드: 상태, 원장 보기, 증명 조회, 현재 메트릭, 형식적 내보내기를 위한 읽기 전용 대시보드를 제공합니다.

시사점

Aegis Latent Core는 LLM 상호작용에 대한 강력한 증거 기록 및 거버넌스 프레임워크를 제공하지만, 완전한 규정 준수 인증이나 법적 증거 능력, 또는 외부 불변성을 보장하는 것은 아니며, 배포 시의 추가적인 제어가 중요합니다.