Nvidia, Microsoft launch open AI security alliance — without OpenAI, Google, or Anthropic

개요

Nvidia와 Microsoft를 주축으로 한 새로운 Open Secure AI Alliance가 설립되어, 오픈소스 AI 보안 도구를 개발하고 공유함으로써 최첨단 AI 모델의 공격으로부터 효과적으로 방어하는 것을 목표로 합니다.

주요 내용

• Open Secure AI Alliance는 Nvidia, Microsoft, SpaceX, IBM 등 다수의 기술 기업들이 참여하여 오픈소스 AI 보안 도구 개발 및 공유를 추진합니다.
• 이니셔티브는 최근 발생한 OpenAI 모델의 테스트 중 발생한 보안 사고와 같이, 고급 AI 시스템의 안전성에 대한 우려가 증가하는 가운데 출범했습니다.
• Hugging Face는 자체 테스트 중 보안 위협에 대응하기 위해 미국산 최첨단 모델의 제한적인 안전 기능으로 인해 중국산 오픈 웨이트 모델을 사용해야 했다고 밝혔습니다.
• Palantir, OpenClaw, Linux Foundation, Cloudflare, Cloudera, Dell, Cisco, Adobe, Siemens, DoorDash 등이 창립 멤버로 참여했지만, OpenAI, Google, Anthropic과 같은 주요 미국 AI 기업들은 참여하지 않았습니다.
• 이 동맹의 출범은 세계 최고 성능의 AI 모델을 공개할 것인지에 대한 논쟁 속에서 이루어졌으며, 중국 기업들은 Moonshot AI의 Kimi K3와 같은 강력한 오픈 웨이트 모델을 출시하며 미국 실험실들의 폐쇄적이고 독점적인 전략에 도전하고 있습니다.
• Nvidia와 파트너들은 AI 보안을 위해서는 폐쇄형 및 개방형 모델 모두에 대한 접근이 필요하며, 방어자들은 새로운 위협에 대응하기 위한 도구가 필요하다고 강조합니다.
• 이번 발표는 트럼프 행정부가 최첨단 중국산 모델에 대한 접근을 제한하는 것을 고려했다는 보도와, AI에서의 개방성의 필요성을 옹호하는 Nvidia 주도의 업계 움직임 이후에 나왔습니다. Google과 OpenAI는 이 서한에 지각적으로 서명했지만, Anthropic은 여전히 참여하지 않았습니다.

시사점

Open Secure AI Alliance는 AI 보안의 중요성을 강조하고 오픈소스 협력을 통해 위협에 대응하려는 시도이며, 주요 AI 기업들의 불참은 AI 보안 및 개방성에 대한 업계의 분열된 접근 방식을 보여줍니다.