"Dangerous" AI models are coming no matter what

개요

AI 기술 발전은 특정 기업의 모델에 국한되지 않으며, 경쟁사들도 유사한 혹은 더 발전된 AI 모델 개발 역량을 보유하고 있거나 곧 확보할 가능성이 높다는 분석이 나오고 있습니다.

주요 내용

• Tarah Wheeler TPO Group 최고 보안 책임자는 Anthropic의 Mythos와 같은 수준의 AI 모델 역량이 다른 경쟁사들에 의해서도 개발될 수 있으며, 이미 개발되었을 가능성도 있다고 언급했습니다.
• Logan Graham Anthropic 프론티어 레드팀 리더는 Mythos Preview 출시 당시, 이러한 AI 역량이 6개월에서 24개월 내에 광범위하게 사용 가능해질 것이므로 지금부터 대비해야 한다고 강조했습니다.
• OpenAI는 4월 중순에 사이버 보안에 초점을 맞춘 모델을 비공개 출시하고 관련 전략을 확장했습니다.
• 기존 AI 모델들도 정교한 프롬프트 엔지니어링을 통해 고급 취약점 탐색 및 익스플로잇 개발에 활용될 수 있다는 연구 결과가 있습니다.
• 사이버 보안 전문가들은 백악관의 AI 수출 통제 지침이 잘못되었다는 공개 서한을 통해, 문제가 되는 것은 특정 모델이 아니라 기술의 전반적인 추세라고 주장했습니다.
• Bruce Schneier 하버드대 및 토론토대 연구원은 소규모, 저렴한 오픈소스 모델들이 단독으로 혹은 함께 사용되어 Mythos/Fable과 유사하거나 더 뛰어난 성능을 보일 수 있으며, 몇 달 내에 창의성과 끈기 면에서도 이러한 수준에 도달할 것으로 예상했습니다.
• 전문가들은 백악관 및 각국 정부가 AI 능력의 발전에 대처하기 위한 더 광범위하고 투명한 계획을 민주적으로 개발하는 데 집중해야 한다고 제안했습니다.
• Chris Wysopal Veracode 공동창립자는 특정 기술의 위험성 자체가 문제가 아니라, 특정 규제가 실질적으로 위험을 줄이는지 아니면 시스템을 더 안전하게 만들려는 사람들의 노력을 늦추는지가 정책적 질문이라고 지적했습니다.

시사점

AI 기술의 급속한 발전과 광범위한 가용성은 특정 모델이나 기업에 대한 규제만으로는 근본적인 위험을 통제하기 어렵다는 것을 시사하며, 기술 발전 자체에 대한 포괄적이고 민주적인 정책 대응이 필요함을 보여줍니다.