Inference startup Infinity raises $15M from Touring Capital, OpenAI and Athropic researchers

개요

AI 인프라 기업 Infinity는 Touring Capital, Principal VC 및 OpenAI, Anthropic 연구원들로부터 1억 달러 가치 평가에 1,500만 달러를 투자받았으며, AI 칩에서 AI 모델을 더 쉽게 실행할 수 있는 소프트웨어를 개발하고 있습니다.

주요 내용

• Infinity는 Nvidia의 CUDA와 경쟁할 수 있는 대안적인 커널 소프트웨어를 구축하여 SRAM, GPU, 스마트폰 칩, Systolic Array 등 다양한 유형의 칩에서 작동하도록 합니다.
• 이 회사의 목표는 모든 칩에서 실행될 수 있는 범용 추론 라이브러리를 구축하여 최첨단 연구 결과를 자동 복제하도록 하는 것입니다.
• Infinity의 AI 연구 에이전트인 Ignition은 Nvidia 대안 칩에서의 AI 추론에 필요한 저수준 코드를 작성하고, 하드웨어 성능을 테스트, 디버깅, 측정하며, 성능 향상을 위해 코드를 자동으로 재작성합니다.
• Ignition 시스템은 자가 최적화되며 칩 아키텍처에 독립적으로 적응하여, Infinity는 이를 CUDA 수준의 소프트웨어 스택이라고 주장합니다.
• Infinity는 AI 칩 제조사인 D-Matrix를 고객으로 확보했으며, 다른 주요 칩 및 클라우드 기업들과도 협상을 진행 중입니다.
• 인간은 고수준의 지시를 제공하며, 에이전트는 번거로운 작업을 수행하여 인간 혼자보다 훨씬 빠르게 프로세스를 완료할 수 있습니다.
• Infinity는 선불 라이선스 비용 대신 성능 향상 및 비용 절감 분에 대해 수수료를 받는 모델을 사용하며, 이는 초당 토큰 변화량으로 측정됩니다.

시사점

Infinity의 노력은 AI 칩 시장에서 Nvidia의 지배력에 도전하며, 다양한 하드웨어에서 AI 모델 실행을 용이하게 하여 AI 기술의 접근성과 효율성을 높일 잠재력을 가지고 있습니다.