DOGE used ChatGPT in a way that was both dumb and illegal, judge rules

개요

미국 연방 판사는 정부 부처(DOGE)가 다양성, 형평성, 포용성(DEI) 관련 보조금 지원 대상 여부를 판단하기 위해 ChatGPT를 사용한 절차가 위헌적이라고 판결했습니다.

주요 내용

• 미국 연방 판사 Colleen McMahon은 정부 효율성 부처(DOGE)가 1억 달러 이상의 보조금 지원 취소를 결정하는 과정에서 ChatGPT를 사용한 것이 위헌이라고 판결했습니다.
• 판결은 인문학 단체가 제기한 소송에서 나왔으며, DOGE가 인종, 출신 국가, 종교, 성적 지향과 같은 보호받는 특성과 관련된 이유로 보조금 지원을 중단하는 데 ChatGPT를 활용했다고 지적했습니다.
• DOGE 직원은 ChatGPT에게 특정 보조금 설명이 DEI와 관련 있는지, 또한 "BIPOC", "Minorities", "LGBTQ" 등 보호받는 특성과 관련된 "탐지 코드"를 포함하는지 판단하도록 요청했습니다.
• 직원은 ChatGPT에 "DEI"를 명확히 정의하지 않았으며, AI가 해당 용어를 어떻게 이해했는지 알지 못했다고 증언했습니다.
• 판사는 정부가 ChatGPT의 판단에 책임을 전가하려는 주장을 일축하며, ChatGPT가 정부의 선택된 도구였으므로 정부의 위헌적 행위를 면제해주지 않는다고 명시했습니다.
• 이로 인해 1,400건 이상의 보조금 지원이 취소되었으며, 판사는 이러한 결정이 수정헌법 제1조(표현의 자유) 및 제5조(평등 보호) 위반이라고 판결하고 취소 명령을 번복하라고 지시했습니다.

시사점

정부 기관이 AI를 의사 결정 도구로 사용할 경우, AI의 편향성이나 오해로 인해 위헌적인 결과를 초래할 수 있으며, 정부는 AI의 사용 결과에 대한 책임을 져야 합니다.