Introducing correctover-patronus: 6-Dimensional Verification for Patronus AI

개요

correctover-patronus는 Patronus AI와 같은 LLM 평가 도구가 놓칠 수 있는 구조적 실패 및 검증 오류를 6가지 차원에서 포괄적으로 검증하기 위한 어댑터입니다.

주요 내용

• 기존 LLM 평가 도구의 한계: Patronus AI 등은 환각 탐지, 독성 검사, 의미론적 관련성은 뛰어나지만, JSON 응답의 필수 필드 누락, 잘못된 형식의 함수 호출, 스키마 제약 위반, 성능 저하를 유발하는 지연 시간 초과, 토큰 사용량 폭증으로 인한 비용 문제 등 구조적 실패는 탐지하지 못합니다.
• correctover-patronus의 솔루션: Correctover의 87가지 결정론적 검증 규칙을 Patronus 네이티브 평가자로 실행하는 어댑터입니다.
• 6가지 검증 차원:
• 구조 (Structure): 출력 형식 유효성 (JSON 파싱, 스키마 준수)
• ID (Identity): 입력에 대한 의미론적 관련성 (응답이 질문에 부합하는지)
• 무결성 (Integrity): 금지된 패턴 부재 (Traceback, 오류 메시지 등)
• 지연 시간 (Latency): 응답 시간 예산 (예: 30초 임계값 이하)
• 비용 (Cost): 토큰 사용량 예산 (예: 10,000 토큰 한도 이하)
• (암시적) 존재: 각 차원에 대한 명시적 언급은 없으나, 6차원 전체 검증을 제공합니다.
• 재연산 가능한 증명 해시 (Recomputable Proof Hash): 모든 평가 결과에 증명 해시가 포함되어 검증 프로세스 자체를 검증할 수 있습니다. 이는 입력 텍스트, 출력 텍스트, 적용된 검증 규칙, 각 차원의 판결을 포함합니다.
• 성능: P50 검증 지연 시간 22μs, 87개의 자체 복구 규칙, 586KB SDK 크기, 외부 API 호출 없음.
• 통합: correctover-patronus 라이브러리를 통해 Patronus 실험에 통합하여 체계적인 벤치마킹에 활용할 수 있습니다.

시사점

correctover-patronus는 LLM 출력의 신뢰성과 견고성을 크게 향상시키며, 구조적 오류 및 성능 문제를 효과적으로 관리하여 완벽한 출력 보증을 가능하게 합니다.