AI put "synthetic quotes" in his book. But this author wants to keep using it.

개요

스티븐 로젠바움 작가는 자신의 신간 "The Future of Truth"에서 AI 사용으로 인해 발생한 부정확하거나 합성된 인용구에 대해 인정하며, AI 기술의 매력과 위험성을 동시에 경험하고 있다고 밝혔다.

주요 내용

* AI로 인한 부정확한 인용구 발생: 스티븐 로젠바움 작가는 AI 도구를 사용하여 책을 집필하는 과정에서 실제 발언하지 않았거나 잘못된 내용의 인용구가 포함되었음을 인정했으며, 현재 출판사와 함께 인용 감사를 진행 중이다.
* AI의 '매혹적'이지만 '위험한' 특성: 로젠바움은 AI가 아이디어를 연결하고 새로운 사고 경로를 제시하는 "마법 같은" 도구이지만, 동시에 사용자에게 통제력을 착각하게 만드는 "위험한" 특성이 있다고 설명했다.
* AI 연구 지원 도구로서의 활용: 작가는 AI를 아이디어 탐색, 기사 검색, 주제 요약, 관련 인물 및 논문 식별 등에 사용했으며, 실제 보고, 서사 구조, 인터뷰, 논증 및 결론은 자신이 직접 작성했다고 강조했다.
* 기존 사실 확인 절차의 한계: AI가 포함된 연구 과정에서는 전통적인 사실 확인 절차가 AI 생성 인용구의 존재 여부나 정확성을 검증하는 데 한계가 있으며, 이는 출판사의 검증 워크플로우에 새로운 접근 방식이 필요함을 시사한다.
* AI 오류의 만연함: 로젠바움의 사례 외에도 AI 생성 오류는 다양한 분야에서 발생하고 있으며, 이는 AI 시스템의 보편성과 설득력을 보여주는 동시에 주의를 요하는 문제이다.
* AI 사용의 지속 의지: 로젠바움은 AI 사용으로 인한 문제점을 인지하고 있으며, 앞으로 더 신중하게 접근할 것이라고 밝혔으나, AI 도구의 효율성 때문에 완전히 사용을 중단하기 어렵다는 입장을 보였다.

시사점

AI 기술의 혁신적인 효율성과 창의적 가능성 이면에 존재하는 부정확성 및 통제력 상실의 위험성은 작가뿐만 아니라 AI를 활용하는 모든 분야의 전문가들에게 새로운 검증 및 윤리적 기준 마련의 필요성을 제기한다.