OpenAI and Anthropic Sign Letter to Prevent AI-Developed Biological Weapons

개요

OpenAI, Anthropic 등 주요 AI 기업 CEO들이 의회에 AI 기술을 활용한 생물학 무기 개발을 어렵게 하는 법률 제정을 촉구하는 공개 서한에 서명했습니다.

주요 내용

* AI 기술 발전으로 인해 과거 생물학 무기 개발을 막았던 지식 장벽이 약화될 가능성이 있습니다.
* 과거에는 DNA 합성이 전문적인 지식과 고가의 장비를 요구했으나, 현재는 상업용 신세사이저를 통해 맞춤형 유전자 서열을 비교적 저렴하게 제작 및 판매하고 있습니다.
* 일부 DNA 합성 업체는 고객 및 주문 내용을 제대로 검증하지 않아 위험 물질 제작에 악용될 소지가 있습니다.
* 2017년 캐나다 연구진은 우편 주문 DNA를 사용하여 호흡기 바이러스(horsepox virus)를 복원했으며, 이는 소포자(smallpox)와 같은 치명적인 바이러스 제작에도 활용될 수 있다는 우려를 낳았습니다.
* AI, 특히 LLM은 위험한 신규 독소 및 병원체 설계를 용이하게 할 수 있으나, 실제 바이러스 제작을 위해서는 생물학적 지식이 여전히 필요할 수 있습니다.
* AI 도구는 검증을 피할 수 있는 유전자 서열 주문 방법을 안내하거나, 검증 시스템이 탐지하기 어려운 방식으로 주문 내용을 변경하도록 도울 수 있습니다.
* 국제 유전자 합성 컨소시엄(International Gene Synthesis Consortium)과 같은 단체를 통해 자발적인 검증 관행을 시행하는 업체들도 있으나, AI 기반 단백질 설계 도구가 기업의 검증 소프트웨어를 통과하는 위험한 유전자 서열을 생성하는 연구 결과도 있습니다.
* AI 기업들은 생물학 모델에 대한 자체적인 사용자 검증을 수행해야 하며, 사용자가 위험한 작업을 요청하는 것을 어렵게 만들어야 합니다.
* 유전자 합성 업체에 대한 규제만으로는 부족하며, AI 기업들이 다른 통제 지점에서 역할을 해야 합니다.

시사점

AI 기술의 발전 속도와 접근성 증가는 생물학 무기 개발의 잠재적 위험을 높이며, 이는 AI 기업과 유전자 합성 업체 모두의 책임 있는 규제 및 검증 시스템 구축을 요구합니다.