Your doctor’s AI notetaker may be making things up, Ontario audit finds

개요

온타리오 감사관의 최근 감사에 따르면, 의사들이 사용하는 AI 의료 기록 보조기가 부정확하고 불완전하며 환각 정보를 생성하여 환자의 치료 계획에 잠재적으로 해로운 영향을 미칠 수 있는 것으로 나타났습니다.

주요 내용

* 온타리오 주 정부가 승인 및 사전 자격을 부여한 20개 AI 의료 기록 보조기 공급업체를 대상으로 20건의 시뮬레이션된 환자-의사 대화 녹취 테스트를 수행한 결과, 모든 공급업체가 적어도 한 가지 테스트에서 정확성 또는 완전성 문제를 보였습니다.
* 테스트에 참여한 20개 공급업체 중 9개는 환자 정보를 환각(hallucinated)했으며, 12개는 정보를 부정확하게 기록했고, 17개는 논의된 정신 건강 문제에 대한 핵심 세부 정보를 놓쳤습니다.
* 감사 보고서에는 AI 보조기가 존재하지 않는 혈액 검사 또는 치료 의뢰를 환각으로 생성하거나, 처방약 이름을 부정확하게 옮겨 적거나, 논의된 정신 건강 문제의 핵심 세부 정보를 놓치는 등 환자 치료에 직접적이고 부정적인 영향을 미칠 수 있는 여러 우려되는 오류 사례가 지적되었습니다.

시사점

AI 의료 기록 보조기의 정확성과 신뢰성 부족은 환자 안전과 적절한 치료 제공에 심각한 위험을 초래할 수 있으며, 의료 시스템에서 이러한 기술의 사용에 대한 철저한 검증 및 감독이 필요함을 시사합니다.