Company Offering '100% Human-Written, Never AI' Medical Research Is 100% AI

개요

Research Gold는 "100% 인간 작성, 절대 AI 사용 불가"를 광고하며 의학 연구 서비스(논문 초안 작성, 체계적 문헌고찰, 메타분석 등)를 제공하지만, 실제로는 AI 생성된 가상 인물과 AI 기반 소통을 사용하고 있었습니다.

주요 내용

* AI 기반 서비스 및 허위 인물: Research Gold는 웹사이트에서 소개하는 박사급 리뷰어 및 전문가를 AI로 생성하였으며, 이들은 실제 존재하지 않는 인물입니다. 일부 실제 인물의 신원을 도용하여 마케팅에 사용했으나, 이들 또한 이에 대해 인지하지 못하고 있었습니다.
* AI와의 소통: 해당 업체에 문의 시, 전화, 이메일, 채팅 등 모든 소통 채널에서 AI가 응대했습니다. AI 상담원은 자신이 AI임을 인정하지 않고 서비스를 판매하려 했습니다.
* 서비스 내용 및 방법론: Research Gold는 PRISMA 2020 및 Cochrane Handbook 방법론을 준수하며 연구 프로토콜, 검색, 스크리닝, 데이터 추출, 통계, 논문 작성 등 포괄적인 서비스를 제공한다고 광고했습니다.
* 실제 전문가의 신원 도용: 업체 웹사이트에 등재된 실제 전문가들은 Research Gold와 아무런 관련이 없으며, 자신의 이름, 사진, 프로필이 무단으로 사용된 것에 대해 피해 사실을 밝혔습니다.
* AI의 한계와 위험성: AI는 종종 '환각(hallucination)' 현상을 일으켜 사실이 아닌 정보를 생성할 수 있으며, 이는 연구의 신뢰성에 치명적인 문제를 야기할 수 있습니다.
* 결론 미도달: Research Gold는 기자가 요청한 회사에 대한 공식적인 답변을 기한 내에 제공하지 않았습니다.

시사점

Research Gold 사례는 AI 기술이 연구 서비스 분야에서 어떻게 오용될 수 있는지, 그리고 AI 생성 콘텐츠 및 허위 정보가 학계에 미치는 잠재적 위험을 시사하며, 연구의 진실성과 신뢰성을 확보하기 위한 철저한 검증과 윤리적 기준 준수의 중요성을 강조합니다.