School shooting survivor sues AI gun detection firm after system failed to spot weapon

개요

2025년 1월 테네시주 내슈빌 고등학교 총기 사건 생존자가 사건 당시 총기를 탐지하지 못한 AI 총기 탐지 시스템 제조사를 상대로 소송을 제기했습니다.

주요 내용

* 이 소송은 총격을 가한 학생을 포함해 두 명이 사망한 사건에서 사용된 AI 총기 탐지 시스템의 제조사 Omnilert와 해당 시스템을 재판매한 System Integrations를 대상으로 합니다.
* 소장에 따르면, Omnilert는 실제 비상 상황 발생 시 탐지 실패를 초래할 수 있는 시스템의 "상당한 운영상의 한계"를 인지했거나 인지했어야 했습니다. 이러한 한계에는 카메라 배치, 무기와 카메라 센서의 근접성, 카메라 각도, 조명, 무기 가시성 등이 포함됩니다.
* 2023년, 메트로폴리탄 내슈빌 공립학교(MNPS) 이사회는 약 100만 달러 이상의 계약을 승인하여 지역 전역의 카메라 및 관련 보안 인프라 위에 AI 탐지 레이어를 설치했습니다.
* 사건 이후 MNPS 대변인은 총격범이 카메라와의 거리가 너무 멀어 정확한 판독 및 경보 활성화에 필요한 이미지가 확보되지 않았다고 밝혔습니다.
* 소송은 Omnilert가 자사 웹사이트의 마케팅 문구를 인용하며, 회사가 시스템의 능력을 과대 광고했다고 주장합니다. Omnilert는 AI 기반 시각적 총기 탐지가 "위협을 조기에 식별함으로써 마조리 스톤맨 더글러스 고등학교에서 비극을 완화하거나 예방할 수 있었을 것"이라고 언급하며, 유사한 비극을 막을 수 있음을 전달하려 했습니다.
* 총격 이전 Omnilert의 웹사이트에는 오탐지, 탐지 한계 등에 대한 언급이 없었습니다.
* 원고 측 변호사는 탐지 시스템이 효과적인 특정 상황 조건을 사용하는 것이 의문스럽다고 지적했습니다.

시사점

AI 기반 보안 시스템의 운영상 한계와 과장 광고는 실제 비상 상황 발생 시 심각한 결과를 초래할 수 있으며, 이러한 시스템의 신뢰성과 효과성에 대한 철저한 검증 및 투명한 정보 제공이 중요합니다.