ArXiv will ban researchers who upload papers full of AI slop

개요

ArXiv는 LLM 생성 결과물을 제대로 검토하지 않은 연구 결과가 포함된 논문에 대해 해당 연구자에게 1년간의 ArXiv 이용 금지 조치를 취하고, 이후에는 평판이 좋은 동료 검토 학술 대회 또는 저널의 승인을 받은 논문만 제출할 수 있도록 정책을 강화합니다.

주요 내용

* ArXiv는 LLM 생성 콘텐츠의 부적절한 사용으로 인해 발생하는 "AI 슬롭(AI slop)" 논문 양산을 줄이기 위한 새로운 정책을 시행합니다.
* LLM 생성 결과물에 대한 검증이 부족했다는 명백한 증거(예: 환각을 일으킨 참고 문헌, LLM의 메타 주석)가 있는 논문의 저자는 1년간 ArXiv 제출이 금지됩니다.
* 1년의 금지 기간 이후에는 ArXiv에 논문을 제출하려면 반드시 평판이 좋은 동료 검토 학술 대회 또는 저널에서 먼저 승인을 받아야 합니다.
* 저자는 금지 결정에 대해 이의를 제기할 수 있습니다.
* 이 정책은 명백한 증거가 있는 경우에만 적용되며, 내부 절차를 통해 중재자와 섹션 위원장의 확인을 거쳐 제재가 부과됩니다.
* 작년에도 ArXiv는 컴퓨터 과학 분야의 리뷰 논문 및 입장 표명 논문에 대해 동료 검토 및 학술 대회/저널 승인을 의무화하여 AI 슬롭을 줄이는 정책을 업데이트한 바 있습니다.

시사점

ArXiv의 새로운 정책은 생성형 AI 기술의 발전으로 인해 학술 연구의 질 저하가 우려되는 상황에서, 연구 결과의 신뢰성과 투명성을 확보하고 학술 커뮤니티의 건전성을 유지하기 위한 중요한 조치입니다.