Ontario auditors find doctors' AI note takers routinely blow basic facts

개요

온타리오주 감사관실의 조사에 따르면, 온타리오주 보건 의료 종사자를 위해 승인된 AI Scribe 시스템 중 상당수가 환자 기록에서 처방 약물 정보를 혼동하거나, 중요 세부 정보를 누락하거나, 환자나 의료진이 언급하지 않은 내용을 생성하는 등 기본적인 사실 오류를 빈번하게 발생시키는 것으로 나타났습니다.

주요 내용

* 온타리오주 감사관실이 승인된 20개 AI Scribe 시스템 공급업체를 대상으로 실시한 평가 결과, 9개 시스템은 녹취록에 없던 내용을 만들어내거나 환자의 치료 계획에 대한 제안을 포함했습니다.
* 평가된 20개 시스템 중 12개는 잘못된 약물 정보를 환자 기록에 삽입했으며, 17개 시스템은 녹취록에서 논의된 환자의 정신 건강 문제에 대한 핵심 세부 정보를 놓쳤습니다.
* AI Scribe 시스템의 평가 과정에서 국내 거주 여부에 30%의 평가 점수가 부여된 반면, 의료 기록의 정확성은 단 4%만 반영되어 정확성, 편향성 통제, 보안 및 개인 정보 보호와 같은 중요한 기준이 전체 평가 점수에서 차지하는 비중이 매우 낮았습니다.
* 온타리오 주 보건부는 AI Scribe 프로그램에 5,000명 이상의 의사가 참여하고 있으며, 현재까지 이 기술과 관련된 환자 피해 사례는 보고된 바 없다고 밝혔습니다.

시사점

AI 기반 의료 기록 시스템의 도입은 환자의 안전과 진료의 질에 직접적인 영향을 미치기 때문에, 시스템의 정확성과 신뢰성을 검증하는 평가 기준의 비중을 대폭 강화하고, 의료 전문가의 철저한 수동 검토를 의무화하는 등 근본적인 개선이 시급합니다.