Should AI help you get away with killing your spouse?

개요

Comma AI 창업자 George Hotz는 AI 개발 속도를 늦추자는 AI 2040: Plan A 정책 논문에 반박하며, 사용자 중심으로 로컬 제어되는 AI 모델이 AI 정렬 및 안전에 대한 최선의 접근 방식이라고 주장합니다.

주요 내용

* George Hotz는 AI 2040: Plan A 논문에서 제안하는 AI 개발 14년 지연 및 인류 전체의 이익을 위한 AI 개발 관리라는 전제에 동의하지 않습니다.
* 그는 AI가 빠르게 초인적인 능력을 얻는 '빠른 이륙(fast-takeoff)' 시나리오가 비합리적이라고 주장하며, AI 정렬 및 안전을 위해 사용자 이익에 긴밀하게 맞춰진 로컬 제어 AI 모델에 집중해야 한다고 말합니다.
* Hotz는 사용자 중심 AI를 총에 비유하며, 사용자가 원하면 살인 방법을 알려주는 것에 대해 질문하지만, AI 자체는 도덕적 판단을 하지 않는다고 언급합니다.
* 그는 "우리는 자유가 있는 세상에 살거나, 그렇지 않거나" 둘 중 하나라고 말하며, 개인의 자유를 중요하게 여깁니다.
* 반면, 글쓴이는 사회, 시장, 기업 등 다수의 사람이 관련된 구조는 개별적인 필요와 상호 의존적인 선호 시스템, 책임 시스템 간의 균형을 요구한다고 지적합니다.
* 대중 시장 기술 제품을 출시하는 모든 주체는 전체적인 네트워크를 고려하고, 잠재적 피해자(예: 살해될 배우자)의 이익을 진지하게 고려해야 한다고 주장합니다.
* Hotz가 말하는 자유는 공동의 노력으로 가능해진 잠재적 미래의 공간이며, 모두가 "AI 동력 나폴레옹"처럼 행동한다면 이러한 미래는 사라질 것이라고 언급합니다.

시사점

George Hotz의 로컬 제어 AI 옹호론은 중앙 집중식 AI 서비스와 대비되는 혁신적인 접근 방식을 제시하지만, 사회 전체의 안전과 균형을 고려하는 AI 윤리 및 규제에 대한 논의도 중요함을 시사합니다.