The state of open source AI

개요

오픈 소스 AI는 성능 격차를 좁히고 비용을 절감하며, 데이터 주권과 공급업체 종속성 탈피라는 이점을 제공하며 빠르게 발전하고 있습니다.

주요 내용

* 오픈 소스 AI의 역량 및 비용 경쟁력:
* 오픈 웨이트(Open weights) 모델은 최신 폐쇄형 모델과의 역량 격차를 크게 줄였으며, 특히 코딩 및 일반 지식 분야에서는 동등하거나 근접한 성능을 보입니다.
* GPT-4급 추론 비용이 36개월 동안 50배 하락하여 $20에서 $0.40/100만 토큰으로 감소했습니다.
* OpenRouter에서의 프로덕션 토큰 사용량의 상당 부분이 오픈 웨이트 모델을 통해 처리되며, 가장 사용량이 많은 상위 5개 모델이 모두 오픈 소스입니다.
* 개발자 채택률 및 생산성:
* AI 기능 구현에 오픈 소스 모델을 사용하는 개발자 비율이 폐쇄형 모델 사용자보다 높지만, 프로덕션 환경으로 전환하는 비율은 폐쇄형 모델이 더 높습니다.
* 생산성 격차는 모델 역량보다는 운영 도구 및 신뢰성 부족에서 비롯됩니다.
* 오픈 소스 AI 생태계 및 비즈니스 모델:
* 오픈 소스 AI는 수천억 달러 규모의 상업 시장을 형성하고 있으며, 호스팅 추론, 엔터프라이즈 플랫폼, 온프레미스 라이선싱, 파인튜닝 서비스, 하네스 툴링 등 다양한 수익 모델이 성공을 거두고 있습니다.
* Databricks, Mistral AI, DeepSeek 등 다수의 기업이 상당한 규모의 자금 조달과 매출 성장을 기록하고 있습니다.
* 오픈 소스 AI의 전략적 중요성:
* 오픈 소스 AI는 특정 공급업체에 대한 종속성을 피하고 데이터 주권을 확보할 수 있는 "주권 선택"의 옵션을 제공합니다.
* 국가 차원에서 오픈 소스 AI의 확산은 반도체 수출 통제에 대한 헤지 수단이 되며, 글로벌 추론 부하를 최종 사용자의 로컬 하드웨어로 분산시킵니다.
* 새로운 프론티어: 에이전트 하네스 (Agentic Harness):
* 모델 자체를 넘어 에이전트 하네스(오케스트레이션 루프, 도구, 메모리, 샌드박스, 권한 모델 포함)가 생산성의 핵심으로 부상하고 있습니다.
* 폐쇄형 모델을 제공하는 기업들은 자사 모델과 긴밀하게 통합된 하네스를 통해 경쟁 우위를 확보하고 있으나, 오픈 소스 진영은 아직 중립적인 하네스 생태계를 구축하는 데 집중하고 있습니다.
* 에이전트 하네스에서 해결되지 않은 가장 큰 과제는 "쓰기(write)" 작업에 대한 권한 모델입니다.

시사점

오픈 소스 AI는 개발자 채택률을 높이고 비용 효율성을 제공하며, 데이터 주권 확보라는 전략적 이점을 제공함으로써 AI 기술의 미래를 형성하는 데 중요한 역할을 하고 있습니다. 현재 오픈 소스 진영의 주요 과제는 프로덕션 전환율을 높이기 위한 운영 도구 및 신뢰성 강화, 그리고 모델 자체를 넘어선 에이전트 하네스 및 권한 모델에서의 경쟁력 확보에 있습니다.