Two Home Affairs officials suspended after AI 'hallucinations' found

개요

호주 내무부(Department of Home Affairs, DHA)에서 AI '환각(hallucinations)'이 포함된 정책 문서를 수정한 후, 관련 공무원 두 명이 정직 처분을 받았습니다.

주요 내용

• 호주 내무부의 시민권, 이민 및 난민 보호에 대한 개정 백서에서 AI 생성으로 인한 '환각'이 발견되었습니다.
• 이와 관련하여 시민권 및 이민 부서의 최고 책임자를 포함한 두 명의 공무원이 정직 처분을 받았습니다.
• 발견된 오류는 백서의 참고 문헌 목록과 관련이 있으며, 본문에서 인용되지 않은, 생성된 허구의 참고 문헌들이 포함되었습니다.
• 내무부는 이번 사건을 계기로 내부 승인 절차에 AI 점검 및 선언을 포함하여 프로세스를 현대화할 계획입니다.
• 또한, 징계 절차를 관리하고 2022년 11월 30일 이후 생산된 모든 정책 문서를 검토하기 위해 두 개의 독립적인 로펌을 고용했습니다.
• 이 날짜는 최초의 대규모 언어 모델인 ChatGPT가 공개된 시점입니다.
• 이번 사건은 AI 정책 초안에서 가상의 출처 및 인용이 발견되어 정책 문서를 철회했던 통신디지털기술부(DCDT)의 사례와 유사합니다.
• 내무부는 시민권, 이민 및 난민에 대한 개정 정책의 내용 자체는 정부의 입장을 정확하게 반영하고 있으며, 참고 문헌 목록의 AI 환각으로 인해 실질적으로 영향을 받지 않는다고 밝혔습니다.
• 내무부는 AI의 사회적 사용이 증가하고 있음을 인정하며, 기관들이 AI의 이점을 제대로 활용하기 위해 더 노력해야 한다고 강조했습니다.

시사점

AI 기술을 정책 문서 작성 등 공공 부문에 적용할 때 발생할 수 있는 오류 가능성에 대한 경각심을 높이며, 철저한 검증 절차와 제도적 장치 마련의 중요성을 시사합니다.