OpenAI Backs Bill That Would Limit Liability for AI-Enabled Mass Deaths or Financial Disasters

개요

OpenAI가 일리노이주의 SB 3444 법안에 지지를 표명하며, AI 모델이 초래한 대규모 피해에 대해 AI 개발사의 법적 책임을 면제하는 방안을 지지했습니다.

주요 내용

* 법안의 핵심 내용: SB 3444 법안은 AI 모델이 100명 이상의 사망 또는 심각한 부상, 또는 최소 10억 달러의 재산 피해와 같은 중대한 사회적 피해를 야기하더라도, AI 개발사가 의도적이거나 고의적으로 해당 사건을 일으키지 않았고 안전, 보안, 투명성 보고서를 웹사이트에 게시한 경우 법적 책임을 면제받도록 합니다.
* '프론티어 모델' 정의: 법안은 연산 비용 1억 달러 이상으로 훈련된 AI 모델을 '프론티어 모델'로 정의하며, 이는 OpenAI, Google, xAI, Anthropic, Meta와 같은 대형 AI 실험실에 적용될 수 있습니다.
* OpenAI의 입장: OpenAI 대변인은 이러한 접근 방식이 가장 발전된 AI 시스템의 심각한 위험을 줄이는 데 중점을 두면서도 기술이 지역 사회 및 기업에 보급될 수 있도록 하며, 주별로 상이한 규제를 피하고 명확하고 일관된 국가 표준으로 나아가도록 돕는다고 밝혔습니다.
* '중대한 피해'의 정의: 법안은 악의적인 사용자가 AI를 사용하여 화학, 생물학, 방사능 또는 핵무기를 생성하는 경우, 또는 AI 모델이 인간이 저지르면 범죄가 되는 행위를 자율적으로 수행하여 극단적인 결과를 초래하는 경우를 '중대한 피해'로 명시합니다.
* 규제 접근 방식: OpenAI는 연방 차원의 AI 규제 프레임워크를 지지하며, 일관성 없는 주별 요구 사항이 안전 개선 없이 마찰을 일으킬 수 있다는 점을 강조합니다. 이는 AI 기술 경쟁에서 미국의 위치를 저해하지 않는 것이 중요하다는 실리콘밸리의 전반적인 입장과 맥락을 같이 합니다.
* 회의적인 시각: Secure AI 프로젝트의 정책 책임자는 일리노이가 기술에 대해 엄격하게 규제하는 경향이 있어 해당 법안이 통과될 가능성이 낮다고 보며, AI 기업에 대한 책임 면제에 대해 대중의 90%가 반대한다는 설문 조사 결과를 근거로 제시했습니다.

시사점

해당 법안은 AI 기술 발전과 잠재적 위험 관리 사이의 균형을 맞추는 데 있어 AI 개발사의 책임 범위를 재정의할 수 있으며, 향후 AI 규제에 대한 국가적 논의에 중요한 선례를 남길 수 있습니다.