Google Cloud launches two new AI chips to compete with Nvidia

개요

Google Cloud가 모델 학습과 추론에 특화된 두 가지 새로운 AI 칩인 TPU 8t와 TPU 8i를 출시하며 Nvidia와의 경쟁에 나섰습니다.

주요 내용

* TPU 8세대 출시: Google Cloud의 8세대 맞춤형 AI 칩인 TPU가 모델 학습용 TPU 8t와 추론용 TPU 8i로 나뉘어 출시됩니다.
* 성능 향상: 신규 TPU는 이전 세대 대비 최대 3배 빠른 AI 모델 학습, 퍼포먼스 당 80% 향상된 효율, 100만 개 이상의 TPU를 단일 클러스터로 통합하여 작동할 수 있는 능력을 제공합니다.
* 비용 및 에너지 효율: 이러한 성능 향상은 이전 버전보다 훨씬 적은 에너지와 비용으로 더 많은 컴퓨팅 파워를 제공할 것으로 기대됩니다.
* Nvidia와의 관계: Google Cloud는 Nvidia의 칩 기반 시스템을 보완하기 위해 자체 칩을 사용하며, Nvidia를 완전히 대체하지는 않습니다. Nvidia의 최신 칩인 Vera Rubin을 올해 말부터 제공할 예정이며, Nvidia와의 협력을 통해 클라우드 내 Nvidia 기반 시스템의 네트워킹 효율을 높이는 작업도 진행하고 있습니다.
* 클라우드 제공업체의 자체 칩 개발 추세: Amazon, Microsoft와 같은 다른 대형 클라우드 제공업체들도 자체 AI 칩을 개발하고 있으며, 이는 장기적으로 Nvidia에 대한 의존도를 줄일 수 있습니다.
* Nvidia의 시장 지위: 현재로서는 Nvidia의 시장 지위를 위협하기 어렵다는 분석이 있으며, Google의 AI 클라우드 사업 성장이 Nvidia에게 더 많은 비즈니스를 가져다줄 수도 있다는 전망도 있습니다.
* Falcon 네트워킹 기술 협력: Google은 자체 개발한 오픈 소스 네트워킹 기술인 Falcon을 Nvidia와 협력하여 개선하고 있습니다.

시사점

Google Cloud의 새로운 TPU 출시는 AI 워크로드에 대한 컴퓨팅 효율성을 높이고 비용을 절감하는 데 기여할 수 있으며, 클라우드 시장 내에서 Nvidia와의 경쟁 구도와 자체 AI 칩 개발 동향에 영향을 미칠 것입니다.