Maximizing the value of your Claude Code sessions

개요

Claude Code 세션에서 발생하는 토큰 비용을 절감하기 위해 프롬프트 캐싱 활용, 컨텍스트 관리, 서브에이전트 사용 등의 전략을 적용하는 방법을 설명합니다.

주요 내용

* 토큰 비용 구조: Claude Code는 GPU 사용 시 입력 토큰(prefill)과 출력 토큰(decode)에 대해 다른 비용을 부과하며, 출력 토큰은 입력 토큰보다 약 5배 비쌉니다.
* 프롬프트 캐싱: 이전 요청과 동일한 시작 토큰을 공유하는 요청의 경우, 캐시된 상태를 활용하여 재계산 비용을 줄이고 새롭게 추가된 부분만 prefill 합니다. 캐시에서 읽어오는 비용은 0.1배, 캐시에 쓰는 비용은 최대 2배입니다.
* 캐시 무효화 요인: /model, /effort, fast mode, /compact 명령어 사용, 세션 시간 초과, 세션 재개 시 프롬프트 캐시가 무효화되어 모든 대화 내용이 다시 prefill 됩니다.
* 컨텍스트 관리: 세션에 포함되는 모든 정보(읽은 파일, 명령어 출력 등)는 이후 모든 turn에서 다시 전송되므로, 컨텍스트를 짧고 관련성 있게 유지하는 것이 중요합니다. CLAUDE.md에는 핵심 지침만 포함하고 워크플로우별 지침은 스킬로 분리하는 것이 좋습니다.
* 파일 참조 최적화: @-mention을 사용하여 파일을 참조하면 별도의 Read 호출 없이 첫 번째 요청부터 포함되어 비용을 절감할 수 있습니다.
* 명령어 출력 처리: 30,000자 이상의 명령어 출력은 파일로 저장되고 요약만 대화에 포함되며, 테스트 러너와 같이 반복적으로 많은 출력이 발생하는 경우 Claude Code의 플래그 사용이나 별도의 스크립트 활용이 권장됩니다.
* 세션 길이와 비용: 긴 세션은 많은 이전 turn을 다시 읽어야 하므로 더 많은 비용이 발생합니다. /clear 또는 /compact를 사용하여 새로운 작업 시작 시 컨텍스트를 분리하거나 오래된 부분을 정리하는 것이 좋습니다.
* 서브에이전트 활용: 서브에이전트는 메인 세션과 별도의 컨텍스트를 가지며, 작업 결과만 메인 세션으로 반환합니다. 로그 분석과 같이 많은 출력이 발생하지만 메인 세션에 유지할 필요가 없는 작업에 유용합니다.

시사점

Claude Code 세션의 비용 효율성을 극대화하기 위해서는 토큰 비용 구조와 프롬프트 캐싱 메커니즘을 이해하고, 불필요한 컨텍스트 증가를 최소화하며, 적절한 시점에 서브에이전트를 활용하는 등의 전략적 접근이 필요합니다.

원문 읽기 →
원문을 불러오는 중...

댓글

GitHub Discussions