After Rippling blew millions on AI in months, it built an employee ROI tool

개요

HR 소프트웨어 제공업체 Rippling이 AI 비용을 추적하고 관리하기 위한 도구인 AI Spend Console을 출시했으며, 이 도구는 직원별, 팀별, 직무별 AI 사용량과 생산성을 분석한다.

주요 내용

* Rippling은 연초 AI 사용에 막대한 투자를 했으나, 예상치 못한 높은 비용 발생으로 인해 R&D 인력 예산의 40%를 AI 토큰 비용으로 지출할 위험에 처했었다.
* AI Spend Console은 개별 직원이 AI에 지출하는 비용과 그에 따른 생산성 향상 여부를 파악하며, 코드 리뷰에서 동료들이 반복적인 수정을 요청하는 엔지니어를 식별하는 기능도 제공한다.
* 초기에는 직원들이 가장 최신의 비싼 AI 모델을 무분별하게 사용했으나, Rippling은 다양한 가격대의 여러 AI 모델을 조합하고 비용 효율적인 모델로 프롬프트를 라우팅하는 AI 게이트웨이를 구축하여 비용을 절감했다.
* SpaceX의 Grok과 Z.ai의 GLM 5.2와 같은 비용 효율적인 모델들이 대안으로 주목받고 있으며, Rippling은 자체 벤치마크를 통해 GLM 5.2가 유사한 성능으로 훨씬 저렴하다는 것을 확인했다.
* AI Spend Console은 토큰 사용량, 작업 출력, 지출 등을 종합적으로 평가하는 대시보드를 제공하며, 이를 통해 Rippling은 AI 토큰 지출을 R&D 예산의 40%에서 15%로 감소시켰다.
* 비용 절감과 더불어, 효과적으로 AI를 사용하는 직원을 'AI 캡틴'으로 지정하여 동료 지원에 활용하는 등 기술 솔루션 외의 조직적 접근도 병행하고 있다.
* Rippling은 AI 활용 범위를 엔지니어링 부서를 넘어 고객 온보딩 팀 등으로 확장하려 하며, 이러한 비엔지니어링 부서에서의 AI 사용량과 생산성을 명확히 연관시키는 것이 중요하다고 강조한다.

시사점

AI Spend Console은 기업이 AI 투자 대비 실제 성과를 측정하고 비용을 효율적으로 관리하는 데 도움을 주며, AI 활용의 지속 가능성을 확보하기 위해서는 생산성 측정이 필수적임을 보여준다.