AI leaders call for tougher protections against AI-aided bioweapons

개요

AI 분야 주요 기업 리더들이 AI 기술을 활용한 생물학 무기 개발 위험에 대한 우려를 표하며, 미국 의회에 합성 DNA 및 RNA 구매에 대한 엄격한 규제 마련을 촉구하는 공개 서한을 발표했습니다.

주요 내용

* AI와 생물학 무기 개발 위험 증가: AI 도구가 유전 물질 서열 설계, 위험 병원균 제작, 그리고 이를 활용하는 데 필요한 전문 지식의 장벽을 낮출 수 있다는 우려가 제기되었습니다.
* 주요 AI 기업 리더들의 서명: Anthropic의 Dario Amodei, OpenAI의 Sam Altman, Microsoft의 Mustafa Suleyman, Meta의 Alexandr Wang, Google DeepMind의 Demis Hassabis 등 AI 업계 주요 인사들이 서명에 참여했습니다.
* 합성 DNA/RNA 공급업체 규제 요구: 온라인으로 구매 가능한 합성 DNA 및 RNA 판매 기업들이 위험 병원균 제작에 사용될 수 있는 서열 구매를 차단하기 위한 검증 절차를 의무화하도록 요구하고 있습니다.
* 기존의 자발적 노력의 한계: 현재 많은 합성 DNA/RNA 공급업체들이 자체적으로 구매 주문을 검토하고 있으나, 이는 자발적인 조치이며 의무화되지 않아 규제의 필요성이 강조되었습니다.
* 추적 시스템 구축 필요성: 초기 검증을 회피하는 위협을 추적하기 위해 모든 주문에 대한 상세 기록 보관이 필요하다고 지적했습니다.
* 범위 확대된 위협: AI가 생물학 무기 외에도 화학 무기와 같은 다른 위협을 생산하는 데 도움을 줄 수 있다는 경고도 포함되었습니다.
* 정책 입안자들의 신속한 조치 촉구: 기술 발전 속도가 매우 빠르므로, 이해관계자들 간의 이례적인 합의를 바탕으로 정책 입안자들이 신속하고 결정적인 조치를 취할 것을 호소했습니다.

시사점

AI 기술의 발전이 생물학 무기 개발과 같은 잠재적 위협을 증폭시킬 수 있다는 점을 시사하며, 관련 기술 기업과 정책 입안자 간의 협력을 통한 선제적이고 강력한 규제 마련의 시급성을 강조합니다.