Omen AI’s plan to optimize data centers is all wet

개요

Omen AI는 데이터 센터의 액체 냉각 시스템에서 발생하는 세균 증식 문제를 해결하기 위해 실시간 유체 건강 모니터링을 제공하는 소형 분광계 솔루션을 개발했습니다.

주요 내용

• AI 컴퓨팅 수요 증가로 GPU 랙에서 더 많은 성능을 짜내기 위한 노력의 일환으로 데이터 센터에서는 액체 냉각 방식을 채택하고 있습니다.
• 액체 냉각 시스템의 냉각수는 물과 세균 증식을 억제하는 물질의 혼합물인데, 칩을 더 높은 온도로 작동시키기 위해 물의 비율을 높이면 세균 오염으로 이어져 유체 흐름을 막을 수 있습니다.
• 이러한 문제를 해결하기 위해 시스템을 플러시(flush)해야 하며, 이 과정에서 몇 시간 동안 랙을 가동 중단해야 하여 막대한 비용이 발생할 수 있습니다.
• Omen AI는 소형 분광계 장치를 통해 이러한 유체 건강을 실시간으로 모니터링하여 세균 증식 문제가 심각해지기 전에 감지하고, 화학적 변화에 대한 정보 부족으로 인한 다운타임 위험을 줄입니다.
• Omen AI는 Nava Ventures가 주도하고 CRV, Vanderbilt University 등이 참여한 3,100만 달러 규모의 시리즈 A 펀딩을 유치했습니다.
• CEO 겸 설립자인 Zach Laberge는 14세 때 건설 장비 센서 설치 관련 사업으로 300만 달러를 조달한 경험이 있으며, 이후 Omen AI를 설립하여 유체 시스템에 집중했습니다.
• Omen AI의 장치는 세균 증식뿐만 아니라, 펌프 마모 시 구리나 크롬, 씰 마모 시 실리콘 등을 감지할 수 있습니다.
• 건설 중장비 분야 고객이었던 Caterpillar 딜러십으로부터 데이터 센터용 터빈에 센서를 설치하는 것에 대한 문의를 받으며 데이터 센터 분야로 확장하게 되었습니다.
• Omen AI는 현재 텐서웨이브(TensorWave)와 같은 12곳의 데이터 센터 고객과 협력하여 솔루션을 구축하고 있으며, 현재까지 총 4,000만 달러의 자금을 확보했습니다.
• Omen AI의 솔루션은 최근 광학 기술 및 신호 처리 소프트웨어의 발전을 기반으로 하며, 하드웨어 비용이 낮아지고 신호 처리를 통해 노이즈 속에서 의미 있는 정보를 추출할 수 있게 되었습니다.

시사점

Omen AI의 실시간 유체 모니터링 기술은 액체 냉각 방식의 데이터 센터에서 잠재적인 심각한 문제를 사전에 방지하여 운영 효율성을 높이고 다운타임 비용을 절감하는 데 기여할 수 있으며, 이는 곧 AI 컴퓨팅 인프라의 안정성 강화로 이어집니다.