Mathematicians warn of AI threats to profession as industry encroaches

개요

수학계는 AI 기술의 발전이 수학 연구의 고유한 가치와 전통적인 평가 방식을 위협하고 있으며, 특히 학생 및 초기 경력 수학자들에게 불균형적인 영향을 미칠 수 있다고 경고하는 '라이덴 선언(Leiden Declaration)'을 발표했다.

주요 내용

* AI 생성 증명의 신뢰성 문제: AI 모델이 정확한 수학적 증명과 구별하기 어려운 그럴듯하지만 신뢰할 수 없거나 틀린 증명을 생성할 수 있어, 검토자들에게 부담을 주고 증명의 정확성, 투명성, 독립적 검증 기준을 훼손할 위험이 있다.
* 저작권 및 출처 표기 문제: AI 모델이 출판된 연구물을 기반으로 학습할 때 인간의 저작물을 적절히 인용하지 않는 경우가 많으며, 라이선스 위반, 저작권 침해 등으로 얻은 데이터로 학습된 AI 모델의 결과물은 윤리적 문제를 야기할 수 있다.
* 고용, 자금 지원, 인정 메커니즘 교란: AI 사용이 그 자체로 장려되면서, AI 기술에 접근하거나 이를 통제하는 조직의 가치에 동의하지 않는 연구자들을 소외시키고 채용, 자금 지원, 인정 메커니즘을 교란할 수 있다.
* 연구 결과 발표 방식 변화: 수학 연구가 연구 논문이나 과학적 평가에 필요한 정보 공개 없이 보도자료나 블로그 게시물과 같은 비공식 채널을 통해 소통될 경우, 미디어 보도의 과도한 단순화와 상업적 제품의 일반적인 추론 능력에 대한 오해를 초래할 수 있다.
* 수학 연구의 자율성 위협: 기술 기업의 수학 연구 참여 증가는 특히 대학 예산 압박 하에서 수학 연구의 자율성을 위협하며, AI 기반 기술에 적합한 연구 질문이 우선시될 위험을 높인다.
* OpenAI 사례: OpenAI가 80년 된 수학 추측을 AI 모델이 증명했다고 발표한 사례는 기술 산업이 수학 커뮤니티의 평가 절차보다 앞서 시장 논리에 따라 움직이며, AI 모델의 작동 방식에 대한 필수 정보 공개 부족 문제를 제기한다.
* 인간 수학자의 권장 사항: 개인 수학자는 AI 도구 사용을 투명하게 공개하고, 수학 작업의 정확성에 대한 책임을 유지하며, 인간 저자의 기여를 적절히 인정하고, 선언에서 명시된 가치와 일치하는 AI 도구를 사용해야 한다.
* 전문 수학 기관의 역할: 전문 기관은 AI 및 자동화 도구 사용에 대한 가이드라인을 개발하고, 동의 없이 연구물이 학습 데이터로 사용되는 것을 방지하는 라이선스 계약을 통해 연구자 권리를 보호하며, 동료 심사 출판의 역할을 지지하고, 비전통적인 수단으로 주요 수학적 결과가 주장될 경우 개입할 준비를 해야 한다.
* 정책 입안자를 위한 권장 사항: 정책 입안자는 저자의 권리를 보호하고, AI 산업을 규제하며, 공공 컴퓨팅 인프라에 투자해야 한다.

시사점

라이덴 선언은 AI 기술의 급속한 발전 속에서 수학 연구의 근본적인 가치와 투명성을 보호하고, 기술 산업과의 관계에서 인간의 판단, 공정하고 투명한 절차, 그리고 수학 공동체의 공유된 가치가 미래 수학 연구를 이끌어야 함을 강조하며, 인간의 지적 노력과 통찰력의 중요성을 재확인한다.