Outsourcing plus local AI will soon become more economical vs. frontier labs

개요

국내 엔지니어와 로컬 AI API를 결합하는 것이 최첨단 프론티어 LLM 모델을 직접 사용하는 것보다 경제적으로 유리해지는 시점에 대한 분석은 프론티어 연구소 제공 서비스의 가격 상한선을 설정합니다.

주요 내용

• 최신 프론티어 LLM 모델의 API 가격이 지속적으로 상승하고 있으며, 이전 모델 대비 2배에서 3배 이상 증가하는 추세입니다.
• Anthropic Opus-4.7은 새로운 토크나이저 도입으로 토큰 소비량이 32%에서 47% 증가했습니다.
• 프론티어 폐쇄 소스 모델과 로컬 오픈 소스 모델(DeepSeek)의 토큰당 평균 가격을 비교했을 때, DeepSeek가 약 30배 저렴합니다.
• 현재 로컬 오픈 소스 모델은 프론티어 모델만큼의 성능은 아니지만, 코딩과 같은 특정 사용 사례에서는 충분한 성능을 제공합니다.
• GPU 부족 현상과 함께 토큰 소비량은 증가하고 있으며, 프론티어 연구소들은 더 많은 가치를 확보하기 위해 인하되지 않는 가격 정책을 유지하고 있습니다.
• AI 에이전트는 코딩 및 범위 지정된 디버깅 분야에서는 인간을 능가했지만, 장기 기억, 메타 기억, 증거 충족도 평가 등 독립적인 에이전트로서 중요한 기술은 아직 부족합니다.
• 합리적인 비용의 엔지니어와 충분히 좋은 로컬 AI 모델의 조합이 최첨단 프론티어 모델보다 경제적인 가치가 높아지는 시점에 대한 예측이 가능합니다.
• 로컬 모델의 성능은 빠른 속도로 향상되고 있으며, 더 많은 추론 하드웨어가 온라인에 추가될 것으로 예상됩니다.

시사점

AI의 상승하는 비용은 기업들에게 상당한 부담이 될 수 있으며, 이는 프론티어 연구소들이 가격을 올릴 수 있는 속도와 폭에 대한 상한선을 설정하는 요인으로 작용합니다.