Margaret Atwood says the problem with AI is ‘garbage in, garbage out’

개요

Margaret Atwood 작가는 인공지능(AI) 챗봇 Claude를 사용해 본 경험을 바탕으로 AI의 가장 큰 문제점을 'garbage in, garbage out' 원칙으로 설명하며, AI가 생성하는 정보의 부정확성을 지적했습니다.

주요 내용

* Margaret Atwood 작가는 Anthropic의 AI 챗봇 Claude를 단 한 번 사용해 보았으나 만족스럽지 못했다고 밝혔습니다.
* Claude에게 영국의 탐정 시리즈 'Father Brown'에 대한 정보를 문의했을 때, AI는 잘못된 답변을 제공하거나 사실이 아닌 정보를 출력했습니다.
* Atwood 작가는 AI가 인간과 달리 자신이 거짓말을 하고 있다는 사실을 인지하지 못한다고 설명했습니다.
* AI는 텔레비전 리뷰 등 방대한 양의 텍스트를 학습했지만, 비평에서 줄거리를 공개하지 않는 점 때문에 잘못된 정보에 영향을 받았다고 보았습니다.
* AI에 의존하는 사람들을 '기회주의자'라고 칭하며, 쉬운 방법을 찾으려는 인간의 경향을 지적했습니다.
* 모든 대규모 언어 모델(LLM)은 입력되는 데이터의 품질에 따라 성능이 결정된다는 'garbage in, garbage out' 원칙을 강조했습니다.
* 수집되거나, 이미 출판되었거나, 오래되었을 수 있는 정보로 훈련된 AI를 신뢰하는 것은 최선의 방법이 아니라고 언급했습니다.
* 사업적인 이유로 AI를 사용하는 사람들조차도 AI가 실수를 하기 때문에 반드시 정보를 확인해야 한다고 주장했습니다.

시사점

Margaret Atwood 작가의 지적은 AI가 생성하는 정보의 신뢰성에 대한 근본적인 의문을 제기하며, AI 활용 시 데이터의 품질과 결과값의 검증이 필수적임을 강조하는 시사점을 제공합니다.