Nvidia says its AI data center design runs hotter to use a lot less water

개요

Nvidia의 새로운 AI 데이터 센터 설계는 100% 액체 냉각 방식을 채택하고 서버 온도를 높여 물 사용량을 거의 제로에 가깝게 줄이는 것을 목표로 한다.

주요 내용

• 수자원 절감: 기존 냉각탑 방식의 데이터 센터가 메가와트당 연간 약 260만 갤런의 물을 사용하는 데 비해, Nvidia의 액체 냉각 설계는 물 사용량을 최대 100%까지 줄여 거의 제로에 가깝게 만든다.
• 고온 작동: AI 서버를 화씨 113도(섭씨 45도)까지 더 높은 온도에서 작동시켜 효율성을 높인다.
• 액체 냉각 방식: 칩에서 직접 열을 포집하여 고온의 액체 루프를 통해 외부 건식 냉각기로 전달하며, 외부 온도에 대한 유연성을 높인다.
• 전력 소비 감소: 이러한 설계를 통해 상당한 양의 전력 사용량을 줄일 수 있다고 주장한다.
• 데이터 센터 건설 추세: 모든 클라우드 제공업체 및 데이터 센터 운영업체가 Nvidia의 Rubin 세대 설계를 기반으로 전환하고 있다고 언급한다.

시사점

Nvidia의 액체 냉각 기반 고온 데이터 센터 설계는 AI 데이터 센터의 심각한 물 및 에너지 소비 문제를 해결할 수 있는 잠재력을 보여주며, 업계의 지속 가능성 개선에 기여할 수 있다.