Inference startup Infinity raises $15M from Touring Capital, OpenAI and Anthropic researchers

개요

AI 인프라 기업 Infinity가 Touring Capital, Principal VC 및 OpenAI, Anthropic 연구원들의 투자로 1억 달러 기업 가치 평가에 1,500만 달러를 투자받았다. 이 스타트업은 AI 칩에서 AI 모델을 더 쉽게 실행할 수 있도록 하는 소프트웨어를 개발 중이다.

주요 내용

* Nvidia의 시장 지배력에 대한 도전: Nvidia가 높은 성능의 칩뿐만 아니라 GPU를 범용 CPU로 활용 가능하게 하는 CUDA 소프트웨어 덕분에 선두 주자가 될 수 있었다. PyTorch 및 TensorFlow와 같은 주요 AI 개발 프레임워크가 CUDA 위에 구축되어 개발자들이 Python과 같은 인기 언어를 사용하여 앱을 작성하고, 이 앱들이 기본적으로 Nvidia 칩에서 실행되도록 한다.
* Infinity의 CUDA 대체 소프트웨어 개발: Infinity는 SRAM, GPU, 스마트폰 칩, Systolic Array 등 모든 유형의 칩에서 작동하는 CUDA 대안 커널 소프트웨어를 구축하려 한다. 이는 AI 개발 프레임워크를 다른 AI 칩에 맞춰 포팅하는 데 필요한 리소스와 노하우가 부족한 스타트업들의 문제를 해결하고자 한다.
* AI 연구 에이전트 Ignition: Infinity의 AI 연구 에이전트 Ignition은 Nvidia 대안 칩에서 AI 추론에 필요한 저수준 코드를 작성하도록 설계되었다. 이 에이전트는 하드웨어 성능을 테스트, 디버그, 측정하고 성능 향상을 위해 코드를 자동으로 재작성하며, 자체 최적화 및 다른 칩 아키텍처에 대한 적응 기능을 갖춘다.
* 사업 모델 및 고객: Infinity는 선불 라이선스 비용 대신 성능 향상 및 비용 절감분의 일부를 가져가는 방식으로 수익을 창출한다. 주요 고객으로는 AI 칩 제조업체 D-Matrix가 있으며, 다른 대형 칩 및 클라우드 회사들과도 논의 중이다.
* 창립자의 비전: Infinity의 창립자 Jeremy Nixon은 "자동 발명"이라는 아이디어, 즉 AI 시스템이 메타 기술이 될 수 있다는 믿음에 영감을 받아 이 회사를 설립했다. 그는 자동화된 시스템이 칩을 더 효과적으로 실행하는 데 필요한 커널과 같은 저수준 코드를 생성할 수 있다고 믿는다.

시사점

Infinity는 범용 AI 추론 라이브러리를 모든 칩에서 실행 가능하게 함으로써 AI 인프라 시장에서 Nvidia의 지배력에 도전하며, AI 개발 및 배포의 효율성을 크게 향상시킬 잠재력을 가지고 있다.