Ramp launches its own AI model router, called Router

개요

Ramp가 AI 모델 라우팅 서비스인 Router를 출시하여 사용자들이 다양한 대규모 언어 모델(LLM)을 API를 통해 쉽게 사용하고 전환할 수 있도록 지원합니다.

주요 내용

* Router 출시: Ramp는 기업용 경비 관리 플랫폼인 Ramp가 자체 AI 모델 라우팅 서비스 Router를 출시했으며, 이는 사용자와 기업이 다양한 LLM을 API를 통해 활용하고 전환할 수 있게 합니다.
* 내부 사용 경험: Ramp는 지난 3년간 자체 AI 사용 요구를 충족시키기 위해 이 라우터를 개발하고 사용해 왔습니다.
* 출시 및 가격 정책: 현재 미국에서만 이용 가능하며, 2026년 말까지 무료로 제공됩니다 (AI 모델 추론 비용은 별도). 출시 기념으로 26달러 크레딧을 제공하며, 내년 이후의 가격 정책은 아직 공개되지 않았습니다.
* OpenRouter와의 비교: Router는 OpenRouter와 유사하게 작동하지만, 현재 제공하는 AI 모델 옵션은 OpenRouter보다 적습니다.
* 지원 모델: OpenAI, Anthropic, DeepSeek, Moonshot, Minimax, Nvidia, xAI, Z.ai 등 다양한 AI 모델에 대한 접근을 제공합니다.
* 라우팅 전략: 사용자의 선호도에 따라 AI 요청을 라우팅하는 데 도움이 되는 여러 '전략'을 제공합니다. 예를 들어, 모델 제공업체의 유연 사용 등급을 우선시하거나, 최대 세 가지 사용자 지정 벤치마크를 기반으로 쿼리를 라우팅할 모델을 선택할 수 있습니다.
* 기능: 어려운 문제만 비싼 모델로 라우팅하거나, 모델을 쉽게 테스트하는 등의 기능을 지원하며, 토큰 사용량, 비용, 지연 시간, 대체 시도 횟수 등의 상세 정보를 보여주는 대시보드를 제공합니다.
* 데이터 보존 정책: 기본적으로 1년간 모델 입력, 출력, 도구 호출을 기록하지만, 제품 개선을 위해 개인 식별 정보는 제거하고 사용한다고 명시했습니다.
* Ramp의 기회: Router 사업 진출은 AI 추론 시장을 공략하고 기존 고객에게 경비 관리 제품과 연계되는 모델 라우팅 서비스를 제공하는 두 가지 기회를 제공합니다. 또한, AI 랩 및 추론 제공업체와의 장기적인 관계 구축을 통해 신규 고객을 확보하고 경비 관리 제품 판매의 새로운 진입점을 마련할 수 있습니다.

시사점

Ramp의 Router 출시는 AI 모델 라우팅 시장에 대한 새로운 경쟁을 촉발하며, 기업들이 다양한 LLM을 효율적으로 관리하고 활용할 수 있는 솔루션을 제공함으로써 AI 기술 도입 및 활용성을 증대시킬 잠재력을 가집니다.