Arcee, a US open source AI lab, says Chinese models are not inherently dangerous

개요

Arcee의 CTO인 Lucas Atkins는 중국의 오픈 웨이트 AI 모델이 본질적으로 위험하지 않으며, 이는 오픈 소스 소프트웨어와 마찬가지로 보안 테스트를 통해 관리될 수 있다고 주장합니다.

주요 내용

* 중국 오픈 웨이트 AI 모델의 기능과 인기가 증가함에 따라 이에 대한 논쟁이 재점화되고 있으며, 일부에서는 금지 조치를 고려하고 있습니다.
* OpenAI 및 Anthropic과 같은 미국 기반의 독점 모델 개발사들은 중국 모델의 등장으로 인해 수익성 위협을 느끼고 있습니다.
* Lucas Atkins는 중국 모델이 해킹의 벡터가 될 수 있다는 우려에 대해, 이는 오픈 소스 소프트웨어의 잠재적 위험과 다르지 않으며, 모델 훈련 방식상 개발사가 실행 환경에 접근할 수 없다고 설명합니다.
* 오픈 웨이트 모델은 소스 코드가 공개되어 있어 기업들이 보안 테스트 및 자체적인 목적에 맞게 모델을 후처리(post-train)하여 편향, 독성, 환각 등을 검토할 수 있습니다.
* 모델이 코딩을 돕는 과정에서 악의적인 코드를 삽입하는 것은 이론적으로 가능하지만, 이를 구현하기는 매우 어렵고, 그런 코드를 기업이 실제로 사용하는 확률도 낮습니다.
* 대규모 언어 모델(LLM)의 창의적인 특성상, 악성코드 생성을 유도하는 완벽한 조건과 프롬프트를 만드는 것은 어렵습니다.
* 많은 기업들이 모델에 구애받지 않는(model-agnostic) 아키텍처를 구축하고 여러 모델을 사용하므로, 특정 중국 모델에 종속될 가능성은 낮습니다.
* Atkins는 중국 모델 금지에 대한 논의 대신, 미국 내에서 건강한 오픈 생태계를 조성해야 한다고 강조합니다.
* Arcee는 중국 오픈 모델의 성능 향상으로부터 학습하고 그 위에 구축하며, 이는 상호 발전에 기여한다고 봅니다.
* 중국 모델과의 경쟁에서 이기는 방법은 더 나은 모델을 출시하는 것이라고 Atkins는 주장합니다.

시사점

Arcee의 관점은 중국 오픈 웨이트 AI 모델에 대한 과도한 공포를 경계하며, 기술 발전의 이점을 공유하고 상호 학습을 통해 혁신을 이끌어내는 개방적인 생태계 조성의 중요성을 시사합니다.