How did the government decide OpenAI’s frontier model was safe to release?

개요

OpenAI가 최신 LLM인 Sol을 공개적으로 출시하기까지 정부의 안전성 평가 과정에 대한 명확한 정보가 부족하며, 이로 인해 규제 및 의사 결정 권한에 대한 의문이 제기되고 있습니다.

주요 내용

* 평가 과정의 불투명성: OpenAI와 Anthropic의 최신 LLM 출시 시 정부의 안전성 평가가 어떻게 이루어졌는지에 대한 구체적인 정보가 부족하며, 전문가들 역시 명확한 기준이나 절차를 알지 못한다고 언급합니다.
* 정부의 로드맵 부재: AI 모델 평가에 대한 명확한 가이드라인이나 규제 기관이 확립되지 않았으며, FDA와 같은 별도의 승인 체계는 없을 것으로 예상됩니다.
* 초기 논의 및 평가: OpenAI는 Sol 출시 전 정부 관계자들과 논의했으며, 외부 기관의 평가 결과를 공개했지만, 평가 전문가나 방법론에 대한 자세한 정보는 공유되지 않았습니다.
* Anthropic Fable 사례: Anthropic의 Fable 모델은 외국인 접근 금지 조치를 받았으며, 이는 모델의 보안 취약점(jailbreak)에 대한 우려와 더불어 Anthropic 경영진과 행정부 간의 갈등이 원인으로 작용했습니다.
* 정치적 영향력 의혹: OpenAI CEO Sam Altman의 정치 자금 기여 및 OpenAI 임원과의 정치적 관계가 정부의 규제에 영향을 미친 것이 아니냐는 의혹이 제기됩니다.
* 업계의 우려: 전문가들은 기술에 대한 진정한 이해를 가진 안전 연구원, 정렬 연구원 등 전문가들의 의사 결정 과정 참여가 부족하며, 규제가 불투명할 경우 불확실성과 잘못된 동기를 유발할 수 있다고 우려합니다.
* 대안 모색: 제3자 감사 기관의 정부 면허 및 평가, 학계와 비영리 단체의 전문가들이 참여하는 연구 기관 설립 등 투명성과 균형 잡힌 접근 방식을 제안하는 논의가 진행 중입니다.
* 미래 전망: AI 기술 개발 및 평가 과정의 비밀주의는 지속될 것으로 보이며, 이는 대중의 회의적인 시각과 더불어 정치적 논쟁을 야기할 수 있습니다.

시사점

AI 모델의 안전성 평가 과정의 투명성 확보와 실질적인 전문가 참여가 시급하며, 정부와 업계는 혁신과 안전 사이의 균형을 맞추기 위한 명확하고 합의된 규제 프레임워크를 마련해야 합니다.