The literary world isn’t prepared for AI

개요

AI가 생성한 것으로 의심되는 문학 작품이 권위 있는 문학상에 선정되면서 문학계는 AI가 창작한 콘텐츠에 대한 대응 방안을 모색하고 있습니다.

주요 내용

* AI 생성 의심 작품의 등장: 영국의 문학 잡지 Granta가 선정한 코먼웰스 단편 소설상 수상작 중 하나인 Jamir Nazir의 "The Serpent in the Grove"가 AI, 특히 LLM으로 작성된 것으로 보이는 특징(혼합 은유, 반복, 3개 항목 나열 등)을 보이고 있습니다.
* AI 탐지의 어려움: AI 작문 스타일의 특정 패턴이 지목되고 있지만, AI는 인간의 글을 기반으로 학습하므로 인간 작가도 유사한 스타일을 사용할 수 있어 구분이 어렵습니다. Nabeel S. Qureshi는 AI 글쓰기의 특유한 리듬을 감지할 수 있다고 주장했습니다.
* 수상 기관의 입장: 코먼웰스 재단은 AI 사용 의혹에 대해 인지하고 있으며, 모든 수상 작가에게 AI 미사용 서명을 받았다고 밝혔습니다. AI 탐지 도구가 신뢰할 만하게 등장하기 전까지는 '신뢰 원칙'에 기반하여 운영될 것이라고 발표했습니다.
* 출판사의 혼란: Granta는 해당 작품을 Claude와 같은 LLM 챗봇을 통해 AI 생성 여부를 확인했으나, 챗봇은 "거의 확실히 인간의 도움 없이 생성되지 않았다"는 답변을 내놓았습니다. 이는 출판사 역시 AI 기술을 제대로 이해하지 못하고 있음을 시사합니다.
* AI 표절 의혹: Granta의 게시판 담당자는 AI 표절일 가능성을 제기하며, AI 생성물이 실제 작가처럼 보이게 하는 사례가 늘고 있다고 지적했습니다. Jamir Nazir는 실제 인물로 확인되었으나, AI 사용 여부에 대한 명확한 답변은 얻지 못했습니다.
* AI 사용의 경계: 작가나 저널리스트가 AI를 어디까지 사용하는 것이 허용되는지에 대한 논의가 진행 중입니다. 아이디어 구상, 조사, 녹취 등에 AI를 사용하는 것의 허용 범위가 불분명합니다.
* 작가들의 AI 활용: 노벨 문학상 수상 작가 Olga Tokarczuk은 창작 과정에서 AI를 활용한다고 고백하여 논란을 일으켰습니다. 그녀는 AI를 아이디어 구체화 및 사실 기록/확인에 사용하지만, 결과물에 대한 최종 검증은 직접 수행하며, 기존 문학의 사라짐에 대한 슬픔을 표현했습니다.
* 독자들의 반응: AI가 쓴 책을 판매하는 것에 대한 대형 서점 CEO의 발언이 논란을 일으켰고, 결국 AI 생성 책이라도 작가명을 위조하지 않고 명확히 고지할 경우 판매를 고려하겠다는 입장으로 선회했습니다.
* AI 탐지 도구의 한계: Pangram과 같은 AI 탐지 소프트웨어는 특정 단어(stubborn)나 구문("as if it had")의 사용 빈도를 AI 생성의 지표로 삼지만, 인간이 쓴 글에서도 이러한 패턴이 발견되어 탐지 도구의 신뢰성에 의문이 제기되었습니다. Granta의 수상작 중 일부도 AI 생성으로 의심된다는 결과가 나왔습니다.
* 인간 창작물의 고유성: AI 생성물과 인간이 창작한 작품은 구별하기 어려운 '묘한 품질'을 가질 수 있으며, 때로는 마치 외설물을 알아보듯 직관적으로 인지되기도 합니다.

시사점

AI 생성 콘텐츠의 확산은 문학계뿐만 아니라 전반적인 창작 분야에서 진위 판별, 저작권, 윤리적 사용에 대한 근본적인 질문을 던지며, AI 기술 발전 속도에 발맞춘 새로운 규범과 탐지 기술 개발이 시급함을 보여줍니다.