LinkedIn Won’t Be Expanding Its Data Centers in the Next Year

개요

LinkedIn은 기존 GPU 효율성을 두 배로 높여 차세대 AI 데이터 센터 확장 투자를 동결하고, 향후 1년간 컴퓨팅 및 스토리지 용량을 현 상태로 유지할 계획입니다.

주요 내용

• AI 데이터 센터 확장 동결: LinkedIn은 차기 회계 연도에 AI 데이터 센터 확장에 공격적으로 투자하지 않고, GPU 투자 및 컴퓨팅/스토리지 용량을 평탄하게 유지합니다.
• GPU 효율성 향상: 기존 GPU의 사용 효율성을 지난 6개월간 두 배로 높여 하드웨어 투자 증가를 피할 수 있었습니다.
• 비용 절감 및 혁신 동기 부여: CTO들은 비용 지출에 신중을 기하고 있으며, 이러한 제약이 새로운 생성형 AI 기능 개발에 대한 엔지니어링 팀의 창의성을 자극할 것으로 기대합니다.
• 자체 데이터 센터 운영: LinkedIn은 2022년부터 오리건, 텍사스, 버지니아에 자체 데이터 센터를 운영하며 기술에 대한 통제력을 확보했습니다.
• 데이터 센터 최적화: AI 파이프라인 전반에 걸쳐 데이터 센터 사용량을 최적화하고, 개별 팀의 컴퓨팅 및 스토리지 사용량을 측정하여 할당 효율성을 높였습니다.
• AI 모델 경량화: 대규모 모델에서 작은 AI 모델을 훈련하는 증류(distillation)와 같은 기술을 사용하여 운영 비용을 절감했습니다.
• 소프트웨어 재구축: Nvidia 프로세서용 기본 소프트웨어를 재작업하여 더 큰 작업을 처리하도록 하고, CPU를 활용하여 GPU 의존도를 낮췄습니다.
• 구체적인 절감 효과: 이러한 효율성 개선 작업을 통해 지난 12개월간 약 2,400만 달러에 해당하는 비용 절감 효과를 거두었습니다.
• 새로운 하드웨어 구매: 미래의 데이터 센터 성장을 위해 신규 서버 구매는 계속하되, 가격 상승 전 미리 구매하는 방식으로 비용 절감을 확보했습니다.
• "토크노믹스" 동향: 기업들이 단순히 더 많이 구매하는 "buy-more" 시대에서 더 많은 성과를 내는 "do-more" 시대로 전환하고 있음을 보여줍니다.

시사점

LinkedIn의 AI 데이터 센터 확장 동결 결정은 AI 시장이 실험 단계를 넘어 생산 단계로 진입하고 있으며, 단순히 인프라에 많이 투자하는 것보다 효율적인 운영과 혁신이 기업의 성공을 좌우할 수 있음을 시사합니다.