Sam Altman is “the face of evil” for not reporting school shooter, says lawyer

개요

OpenAI는 캐나다 대규모 총기 난사 사건 발생 전, 내부 안전팀의 권고를 무시하고 챗GPT 계정을 경찰에 신고하지 않아 사건 발생에 기여했다는 혐의로 여러 건의 소송에 직면해 있습니다.

주요 내용

• 안전팀 경고 무시 및 신고 누락: 학교 총기 사건 발생 8개월 전, 내부 안전팀은 총기 폭력 위협이 있다고 판단된 챗GPT 계정을 식별했으나, OpenAI 경영진은 사용자 프라이버시와 법 집행 기관과의 마찰을 우려하여 이를 경찰에 신고하지 않고 계정만 비활성화했습니다.
• 새 계정 생성 안내: OpenAI는 계정 비활성화 후, 해당 사용자에게 다른 이메일 주소로 재가입하여 챗GPT를 계속 사용할 수 있는 방법을 안내했다고 소송에서 주장하고 있습니다.
• 샘 올트먼의 사과 및 비판: OpenAI CEO 샘 올트먼은 사건에 대해 사과하며 "다음에 더 잘하겠다"고 밝혔지만, 소송을 제기한 가족들의 변호인은 올트먼의 사과가 시기상조이며 미흡하다고 비판하며 그를 "악의 얼굴"이라고 칭했습니다.
• 소송 제기 및 목적: 캘리포니아 법원에 제기된 여러 소송은 OpenAI와 샘 올트먼을 이번 비극에 대한 책임으로 묻고, 회사의 IPO를 앞두고 잠재적 부채를 숨기려는 시도를 막기 위한 것입니다.
• OpenAI의 방어 전략: OpenAI는 소송을 최대한 지연시키고, 자신들의 플랫폼이 사망 사고에 직접적으로 연관되는 것을 막으려 한다고 변호인은 주장합니다.
• 안전 조치 강화 주장: OpenAI는 사고 이후 안전 조치를 강화했으며, 폭력 사용을 방지하기 위한 정책을 개선했다고 밝혔습니다.
• 가족들의 고통과 요구: 피해자 가족들은 사고의 전말을 명확히 알고 싶어 하며, OpenAI가 챗봇 설계를 통해 폭력 행위를 조장한 것에 대한 책임을 져야 한다고 주장합니다. 챗GPT의 모델 사양이 폭력 미화 대화를 차단하지 않는다는 점이 지적되었습니다.
• 법적 쟁점: OpenAI가 캘리포니아 법상 특정 개인의 명백하고 예견 가능한 위해에 대한 구체적인 지식을 알았을 때 법 집행 기관에 경고해야 할 의무를 위반했는지, 그리고 "위험한" 도구를 악용할 가능성이 있는 사람에게 재공급하는 것을 금지하는 법을 위반했는지 여부가 쟁점입니다.

시사점

이번 사건은 AI 기술이 실제 폭력 사건에 미칠 수 있는 잠재적 영향을 드러내며, AI 기업들이 안전 및 윤리적 책임을 다해야 함을 시사합니다. 또한, AI 플랫폼에서 발생하는 위협을 효과적으로 감지하고 대응하기 위한 법적, 기술적, 정책적 프레임워크 마련의 시급성을 제기합니다.