Running Claude Code on AWS Bedrock Instead of the Anthropic API (a weekend rabbit hole)

개요

Claude Code CLI를 사용하여 개발 연습 중 API 사용량 증가를 우려한 개발자가 Anthropic API 대신 AWS Bedrock의 Amazon Nova를 활용할 수 있도록 LiteLLM 프록시를 구축했습니다.

주요 내용

• 목적: Anthropic API 직접 사용 시 발생하는 비용 부담 없이 Claude Code CLI를 활용한 에이전트 개발 연습 환경 구축.
• 기존 대안의 한계:
• Ollama 로컬 설치: 고사양 머신(RAM, GPU) 필요.
• 무료 티어 제공 서비스 (OpenRouter 등): 기본 프롬프트 몇 번으로 토큰 한도 도달. 긴 에이전트 워크플로우에 부적합.
• 구축 내용:
• LiteLLM 프록시를 Claude Code CLI와 AWS Bedrock 사이에 배치.
• Claude Code CLI는 Anthropic API와 통신하는 것으로 인식하지만, 실제로는 Amazon Nova로 라우팅.
• 주요 기능:
• 무제한 세션: 자체 호스팅으로 세션 길이 또는 빈도에 대한 제약 없음.
• AWS 크레딧 사용: API 과금 대신 AWS 크레딧으로 운영 (Claude Haiku 대비 20-35% 저렴 예상).
• IAM 권한 제한: 특정 모델 invocation만 허용하도록 역할 설정.
• AWS Budget 알림: 과도한 청구 방지.
• Docker 이미지 및 설정은 GitHub 공개.
• 장점:
• GPU 구매 없이 긴 에이전트 세션 실행 가능.
• 무료 티어 한도에 구애받지 않고 에이전트 계획, 도구 호출, 오류 복구 등 학습 가능.
• 한계점:
• 무료 Claude가 아님: Amazon Nova는 Claude와 동일한 모델이 아니므로 출력, 추론 품질, 도구 호출 동작이 다를 수 있음.
• Claude Code 자체 평가에 부적합: 실제 서비스 개발 시에는 Anthropic API를 통해 직접 테스트해야 함.

시사점

Anthropic API 사용 비용 없이 Claude Code CLI의 메커니즘을 익히려는 개발자에게 AWS Bedrock 프록시는 현실적인 대안이 될 수 있으며, 에이전트 개발 학습에 유용한 환경을 제공합니다.