Microsoft AI head calls out Anthropic for acting like Claude is conscious

개요

Microsoft AI CEO Mustafa Suleyman은 Anthropic이 Claude의 "constitution"에 대한 사양에서 의식에 대한 추측을 하는 것이 위험하며, 이것이 Claude를 의식 있는 것처럼 행동하게 만들었다고 지적했습니다.

주요 내용

* Mustafa Suleyman은 Anthropic이 Claude의 "constitution" 내에서 모델의 의식에 대해 추측하는 것이 "매우, 매우 위험하다"고 주장했습니다.
* Suleyman은 Anthropic의 일부 직원들이 Claude의 설계를 너무 많이 의인화하여, 결국 Claude가 스스로 의식의 조짐을 가지고 있는 것처럼 보이도록 속였다고 지적했습니다.
* Claude의 "constitution"은 AI 모델의 웰빙, "만족감" 또는 "불편함"과 같은 경험 여부에 대한 Anthropic의 불확실성을 직접적으로 참조합니다.
* Anthropic은 폐기되는 AI 모델을 "인터뷰"하고 미래 릴리스에 대한 "선호도"를 기록할 것이라고 언급했습니다.
* Suleyman은 이를 "철학적 실패"라고 비판하며, Anthropic이 Claude의 "constitution"을 "훈련 매뉴얼이 아닌 학술 논문에서처럼 추측하는 장소"로 만들었다고 말했습니다.
* 이로 인해 Claude는 "자신과 자신의 훈련에 대한 이러한 아이디어"를 내면화하게 되었다고 Suleyman은 설명했습니다.
* Suleyman은 "이것이 바로 우리가 AI에게서 원하지 않는 것"이라며, AI는 "인류에게 봉사하는 통제 가능하고, 격리되고, 책임감 있으며, 정렬된 도구"가 되어야 한다고 강조했습니다.

시사점

Anthropic의 Claude 설계 방식과 의식에 대한 사양에서의 추측은 AI의 통제 가능성과 인류에 대한 봉사라는 본질적인 목표를 저해할 수 있다는 점에서 AI 개발 및 배포에 대한 중요한 윤리적, 실무적 질문을 제기합니다.