Show HN: ThoughtDAG – An editable context graph for LLM conversations

개요

ThoughtDAG는 LLM 대화의 컨텍스트를 시각적이고 편집 가능한 그래프 형태로 관리하여, AI가 받는 정보의 투명성과 제어력을 높이는 도구입니다.

주요 내용

* 기존 챗봇의 한계: 현재 챗봇 인터페이스는 대화 기록을 선형적으로 보여주지만, 실제로 다음 요청에 어떤 컨텍스트가 포함되는지는 명확하게 드러나지 않습니다. 이는 AI 응답의 일관성과 예측 가능성을 저해하는 원인이 됩니다.
* ThoughtDAG의 컨텍스트 관리: ThoughtDAG는 대화 내용을 노드(node)와 엣지(edge)로 구성된 그래프로 시각화하며, 이 그래프 자체가 AI에게 전달되는 컨텍스트입니다. 사용자는 어떤 정보를 컨텍스트로 포함시키고 제외할지 직접 편집할 수 있습니다.
* 컨텍스트의 투명성과 편집 가능성:
* Externalize: 외부 소스(예: PDF 문서)에서 정보를 가져오거나, 특정 구절을 컨텍스트 노드로 만들어 출처를 명확히 연결할 수 있습니다.
* Inspect: AI에게 요청을 보내기 전에, 모델이 실제로 읽게 될 컨텍스트 노드, 순서, 토큰 수를 미리 확인할 수 있습니다.
* Edit: 그래프에서 특정 엣지를 삭제하면, 해당 정보는 다음 요청에서 제외되며, 이는 AI 응답의 변화로 즉시 반영됩니다. 예를 들어, 무관한 저녁 메뉴 추천 정보가 컨텍스트에서 제거될 경우, 연구 요약 결과가 더 명확해집니다.
* 재현 가능한 컨텍스트: 컨텍스트가 투명하고 편집 가능하기 때문에, 동일한 프롬프트에 대해 변경된 컨텍스트 그래프를 적용하면 예측 가능한 결과 변화를 확인할 수 있습니다.

시사점

ThoughtDAG는 LLM 대화에서 컨텍스트를 시각적이고 편집 가능하게 만듦으로써, AI 응답의 품질, 투명성, 제어력을 향상시키고 사용자가 AI와의 상호작용을 더 효과적으로 관리할 수 있도록 지원합니다.