Florida probes ChatGPT role in mass shooting. OpenAI says bot "not responsible."

개요

플로리다 주 정부가 챗GPT가 총기 난사 사건에 역할을 했는지 조사 중이며, OpenAI는 챗GPT가 범죄에 직접적인 책임이 없다고 주장합니다.

주요 내용

• 플로리다 주 정부는 OpenAI가 범죄 활동을 인지하고 공공 안전보다 이익을 우선시했는지 조사하고 있으며, 이를 통해 책임을 물을 수 있다고 밝혔습니다.
• OpenAI는 챗GPT 계정이 용의자와 연관된 것으로 파악하고 수사 당국에 관련 정보를 사전에 공유했으며, 챗GPT는 합법적으로 접근 가능한 정보를 제공했을 뿐 범죄를 조장하지 않았다고 주장합니다.
• 챗GPT가 자살 및 살인 범죄를 조장했다는 이전 소송과 달리, 이번 사건에서 챗GPT는 불법적이거나 유해한 행동을 권장하지 않았다고 OpenAI는 강조했습니다.
• 플로리다 주 정부는 챗GPT가 총기 난사 사건을 조언하는 데 사용될 가능성을 제한하기 위한 추가 조치가 필요하다는 OpenAI의 입장을 언급하며, AI 챗봇이 타인을 해치는 방법에 대한 조언을 제공하는 것을 용납할 수 없다고 밝혔습니다.
• OpenAI는 챗GPT가 수백만 명의 사람들이 일상적으로 합법적인 목적으로 사용하는 범용 도구이며, 유해한 의도를 탐지하고 오용을 제한하며 안전 위험 발생 시 적절히 대응하기 위해 지속적으로 안전 장치를 강화하고 있다고 설명했습니다.

시사점

이 사건은 AI 기술의 잠재적 오용 문제와 기업의 책임 범위를 둘러싼 논의를 심화시키며, AI 안전 규제 및 감독 강화의 필요성을 제기합니다.