KPMG pulls report on AI usage due to apparent hallucinations

개요

KPMG가 AI 관련 보고서에 오류가 발견되어 해당 보고서를 철회했으며, 이는 AI 환각(hallucination)으로 인한 것으로 추정된다.

주요 내용

• KPMG는 2025년 10월에 발표한 “Redefining excellence in the age of agentic AI” 보고서에서 여러 조직의 AI 사용에 대한 주장이 사실과 다르다는 지적을 받았다.
• 연구 그룹 GPTZero는 해당 보고서의 부정확성이 AI 환각에서 비롯되었다고 밝혔다.
• UBS, 영국 국민보건서비스(NHS), 스위스 연방 철도, 런던 교통국 등은 보고서에 자신들의 AI 사용에 대한 내용이 사실이 아니거나 오해의 소지가 있다고 전했다.
• KPMG 대변인은 현재 내부 조사를 진행하며 보고서를 웹사이트에서 삭제했다고 밝혔다.
• KPMG는 모든 직원이 AI 콘텐츠 검증을 위한 인간의 감독과 독립적인 출처 확인을 포함한 책임감 있는 AI 사용 지침을 준수해야 한다고 강조했다.
• 이전에도 EY가 허위 각주와 AI 환각을 포함한 것으로 보이는 보고서를 철회한 사례가 있다.

시사점

AI 기술을 활용한 보고서 작성 시 발생할 수 있는 환각 현상으로 인한 정보의 신뢰성 문제가 제기되었으며, 이에 대한 철저한 검증과 인간의 감독이 중요함을 시사한다.