Writing Agent Memories: What to Store and What to Skip

개요

AI 에이전트의 기억 시스템에서 어떤 정보를 저장하고 어떤 정보를 생략할지 결정하는 '추출' 단계는 에이전트의 성능에 지대한 영향을 미치며, 종종 간과되는 중요한 과정입니다.

주요 내용

* 기억의 가치 판단: 에이전트가 경험한 모든 것을 기억할 필요는 없으며, 너무 적게 저장하면 중요한 정보를 잊고, 너무 많이 저장하면 검색 시 노이즈가 발생하여 유용한 정보를 찾기 어렵게 만듭니다.
* 저장해야 할 정보:
* 사용자의 안정적인 사실 (선호도, 맥락, 향후 세션에서 중요할 반복적인 요구 사항)
* 결정 및 결과 (선택된 것, 작동한 것, 실패한 것)
* 수정 사항 (인간이 에이전트를 수정했을 때)
* 지속적인 상태 (진행 중인 작업 상태, 에이전트가 추적하는 개체)
* 생략해야 할 정보:
* 일시적인 대화
* 미래와 관련 없는 일회성 세부 정보
* 다음 세션에서 이미 오래될 정보
* 정보 추출의 중요성: 날것의 대화는 지저분하므로, 저장되는 기억은 간결하고 자체적으로 의미를 갖는 사실로 정제되어야 합니다. 예를 들어, "사용자는 X를 선호한다"와 같이 요약하는 방식입니다.
* 추출 시점: 세션 종료 시점에 전체 상호작용을 한 번에 정제하거나, 중요한 일이 발생할 때마다 점진적으로 추출할 수 있습니다. 많은 시스템이 두 가지 방식을 모두 사용합니다.
* 기억 저장의 이점: 저장된 기억이 적을수록 검색 시점에 덜 관련 없는 정보가 나올 확률이 높아져, 중요한 기억이 묻힐 가능성이 줄어듭니다.

시사점

효과적인 AI 에이전트 메모리 시스템은 단순히 정보를 기록하는 것이 아니라, 사용자 경험을 통해 얻은 정보 중 미래에 가치를 가질 만한 것을 선별하고 정제하는 '큐레이션' 과정이 핵심적입니다.