Jaron Lanier: there is no AI (2023)

개요

Jaron Lanier는 "인공지능(AI)"이라는 용어가 오해를 불러일으키며, 현재 우리가 개발 중인 기술은 독립적인 지능체를 창조하는 것이 아니라 인간의 협업을 혁신적으로 발전시킨 형태라고 주장한다.

주요 내용

• "인공지능(AI)"이라는 용어는 신화처럼 여겨지며, 이는 기술을 오용하게 만들 수 있는 위험성을 내포한다. AI 개발자들조차 종말론적 시나리오를 우려하지만, 이는 합리적 근거가 부족하다.
• 현재의 AI 기술, 예를 들어 GPT-4와 같은 대규모 언어 모델(LLM)은 인간이 작성한 텍스트와 이미지를 기반으로 통계적 방식을 활용하여 방대한 데이터를 종합하는 혁신적인 사회적 협업 형태이다.
• AI를 독립적인 지능체 대신 도구로 이해하는 것이 현실적이며, 이는 기술을 잘못 다룰 가능성을 줄이고 상상력을 제한하지 않는다.
• AI의 유연성과 예측 불가능성은 복잡한 수학적 연산에서 비롯되며, 이는 인간의 선택을 요구하는 방식으로 인해 오히려 인간 중심적 경험을 제공할 수 있다.
• AI 정책 논의는 "정렬(alignment)", "안전(safety)", "공정성(fairness)"과 같은 모호한 개념에 집중되지만, 이는 근본적인 문제 해결보다는 꼼수를 유발할 수 있다.
• AI 기술의 "블랙박스(black-box)"적인 특성을 해소하기 위해, 데이터의 출처와 생성 과정을 투명하게 공개하는 "데이터 존엄성(data dignity)" 개념을 도입해야 한다.
• 데이터 존엄성은 개인이 창작한 데이터에 대한 권리를 인정하고, 모델 학습에 기여한 인간 기여자들에게 보상 또는 인정을 제공하는 방식이다. 이는 기존의 "데이터는 무료로 제공하고 서비스는 무료로 이용한다"는 비즈니스 모델의 부작용을 해결할 수 있다.
• AI가 인간의 능력을 대체하거나 사회를 혼란에 빠뜨릴 수 있다는 우려에 대해, 데이터 존엄성은 창의적인 역할을 새롭게 창출하고 경제적 불평등을 완화하는 데 기여할 수 있다.
• AI로 인한 잠재적 위험(딥페이크, 사회 혼란, 자율 무기 등)에 대응하기 위해서는 디지털 정보의 맥락과 출처(provenance)를 명확히 하는 것이 중요하다.
• 기술 발전은 인간의 인식, 책임, 참여를 확대함으로써 안전하게 관리될 수 있으며, AI를 사회적 협업으로 이해하는 것이 이를 가능하게 한다.

시사점

AI 기술을 신화화하지 않고 인간의 사회적 협업으로 이해하며, 데이터 존엄성과 같은 투명성을 강화하는 접근 방식은 기술의 오용을 방지하고 인류에게 긍정적인 방향으로 기술을 활용하는 데 필수적이다.