What you save when project context stops repeating

개요

Qarinah는 코딩 에이전트 세션마다 전체 기록을 다시 재생하도록 요청하는 대신, 컴팩트하고 출처가 명시된 프로젝트 메모리 팩을 컴파일하여 컨텍스트 반복을 줄입니다.

주요 내용

* 토큰 사용량 획기적 감소: 6가지 소프트웨어 작업 테스트에서 전체 기록 기반은 442,113개의 입력 컨텍스트 토큰을 사용한 반면, Qarinah 경로는 5,682개의 토큰만을 사용했습니다. 이는 98.71%의 컨텍스트 반복 감소와 77.81:1의 기반 대비 팩 비율을 나타냅니다.
* 비용 절감 효과: 다양한 고정 입력 토큰 요율을 적용한 결과, Qarinah 경로는 전체 기록 기반 대비 상당한 비용 절감 효과를 보였습니다. 예를 들어, 백만 토큰당 1달러의 요율에서 0.436431달러의 절감 효과가 발생했습니다.
* 검색 정확도 유지: Qarinah는 컨텍스트 압축 후에도 필요한 정보가 상위 5개 결과 내에 직접적으로 포함되도록 하여 검색의 유효성을 검증했습니다. 모든 필수 목표는 상위 5개 결과 내에서 직접적으로 다루어졌습니다.
* 투명한 검색: Qarinah는 선택된 컨텍스트의 원본 이벤트 ID와 콘텐츠 해시를 보존하여, 이후 에이전트가 불투명한 기록 대신 검사 가능한 제한된 핸드오프를 받을 수 있도록 합니다.
* 신뢰성 높은 쿼리 처리: 40, 50, 100개 파일로 구성된 프로젝트에서 380개의 결정론적 파일별 정확 및 오타 허용 쿼리를 성공적으로 통과하여 검색 동작을 검증했습니다.
* 오픈 소스 및 호환성: Qarinah는 Apache-2.0 라이선스로 제공되며 로컬 우선 방식으로 작동합니다. Codex, Claude Code, Cursor, CLI 도구 및 호환되는 MCP 클라이언트와 함께 사용할 수 있습니다. 프로젝트 캡처는 선택 사항이며, 메타데이터만 캡처하는 것이 기본값입니다.

시사점

Qarinah는 에이전트의 컨텍스트 메모리 관리 효율성을 극대화하여, LLM 기반 애플리케이션의 비용을 절감하고 검색의 투명성과 신뢰성을 향상시킬 수 있는 방안을 제시합니다.