Silicon Valley Is Completely Divided Over Chinese AI

개요

중국산 AI 모델, 특히 성능 면에서 미국 모델과 경쟁하거나 능가하는 '오픈 웨이트(open-weight)' AI 시스템의 확산에 대해 실리콘밸리가 첨예하게 대립하고 있습니다.

주요 내용

• 기술적 경쟁 및 우려: 중국의 오픈 웨이트 AI 모델들이 빠르게 등장하고 확산되고 있으며, 일부는 미국의 최첨단 모델들과 견줄 만한 성능을 보여주고 있습니다.
• 증류(Distillation) 공격 의혹: 중국의 알리바바와 Moonshot AI가 각각 Anthropic의 IP를 침해하거나 Fable 5 모델을 증류하여 Kimi K3 모델을 개발했다는 의혹이 제기되었습니다.
• 오픈 웨이트 모델의 특성: 오픈 웨이트 AI 모델은 핵심 구성 요소가 공개되어 사용자 요구에 맞게 파인튜닝(fine-tuning)이 가능하지만, Anthropic이 강조하는 안전 가드레일(guardrail)이 부족하다는 지적이 있습니다.
• 스타트업의 입장: YCombinator와 같은 200여 개 이상의 스타트업으로 구성된 'Little Tech Association'은 오픈 웨이트 AI 모델의 전면 금지에 반대하며, 규제가 미국 스타트업을 약화시키고 거대 AI 기업의 독점을 심화시킬 수 있다고 주장합니다.
• 투자자들의 의견: 벤치마크 캐피탈의 빌 거레이(Bill Gurley)는 오픈 마켓이 작동하도록 하고, 자본이 부족한 스타트업을 위해 합리적인 가격으로 좋은 모델에 대한 접근성을 확보해야 한다고 주장합니다. 올인 팟캐스트의 팟캐스트 진행자인 차마스 팔리하피티야(Chamath Palihapitiya)와 제이슨 칼라카니스(Jason Calacanis)는 미국의 규제가 선도적인 AI 기업들의 비즈니스 모델을 보호하기 위한 것이라고 비판합니다.
• 이해관계의 충돌: OpenAI, Anthropic 등 대규모 AI 기업들은 자체 모델을 보호하고 시장 지배력을 유지하여 이익을 얻으려 하지만, 소규모 스타트업들은 오픈 웨이트 모델의 접근성을 통해 성장 기회를 모색합니다.
• 안전성 논란: Anthropic CEO 다리오 아모데이(Dario Amodei)는 오픈 웨이트 LLM이 악의적인 목적으로 사용될 수 있는 심각한 보안 위험을 초래한다고 경고합니다. 그러나 Hugging Face의 보안 사고 조사에서 오히려 중국의 오픈 웨이트 모델이 문제를 해결하는 데 도움이 된 사례도 있습니다.

시사점

중국산 AI 모델의 확산은 실리콘밸리 내에서 혁신 촉진과 잠재적 위협에 대한 규제라는 상반된 이해관계를 발생시키며, 미국 정부의 정책 결정에 복잡한 과제를 안겨주고 있습니다.