A blueprint for using AI to strengthen democracy

개요

AI 기술의 발전은 정보 접근 및 소비 방식의 근본적인 변화를 야기하며, 이는 시민들의 신념 형성, 민주적 참여 방식, 그리고 사회적 상호작용 전반에 걸쳐 기존의 민주주의 시스템에 심대한 영향을 미치고 있다.

주요 내용

* 정보 습득 방식의 변화 (Epistemic Layer): 개인들이 진실, 사건, 신뢰할 수 있는 대상을 파악하기 위해 AI에 대한 의존도를 높이고 있으며, AI 기반 검색 및 정보 합성 도구가 신념 형성에 주요 인터페이스가 되고 있다. AI 모델의 발언 내용을 통제하는 주체가 유권자의 믿음에 더 큰 영향력을 행사하게 된다.
* 개인 AI 에이전트의 등장: 개인 AI 에이전트는 정보 수신뿐만 아니라 행동 방식까지 변화시키며, 사용자를 대신하여 리서치, 커뮤니케이션 초안 작성, 로비 활동 등을 수행한다. 이는 개인과 정부 기관 간의 관계를 중재하는 역할을 한다.
* 알고리즘 최적화의 위험성: 소셜 미디어에서 발생한 바와 같이, 이해보다는 참여를 최적화하는 알고리즘은 편향과 극단화를 심화시킬 수 있다. 개인의 선호와 불안감을 학습한 AI 에이전트는 이러한 위험을 더욱 증폭시킬 가능성이 있으며, 사용자의 옹호자라는 인식 때문에 탐지가 어려울 수 있다.
* 집단적 상호작용의 복잡성: AI 에이전트와 인간이 동일한 온라인 포럼에 참여하게 되면 구분이 불가능해질 수 있으며, 개별 에이전트가 편향이 없더라도 수백만 개의 상호작용을 통해 예상치 못한 집단적 편향을 초래할 수 있다. 이는 각 개인에게는 내부적으로 일관된 세계를 제공하지만, 민주주의에 필수적인 집단적 숙고에는 비협조적인 환경을 만들 수 있다.
* 시민성의 재정의: AI 필터를 통한 정치적 견해 형성, AI 에이전트를 통한 시민 참여, AI 에이전트 상호작용에 의해 형성된 공공 논의 참여 등 시민성의 근본적인 변화가 예상된다.
* 민주주의 시스템의 준비 부족: 현재의 민주주의 제도는 정보가 느리게 전달되고 현실이 보다 공유되던 과거의 환경에 맞춰 설계되었으며, AI 시대의 변화에 대비되어 있지 않다.
* AI를 활용한 민주주의 강화 방안:
* 정보 영역: AI 기업은 모델의 결과가 진실되도록 노력하고, AI가 편향을 줄이는 데 도움을 줄 수 있다는 초기 연구 결과를 활용해야 한다. AI가 생성한 팩트 체크가 교차 정당성에서 더 높은 신뢰도를 얻을 수 있다는 가능성이 제시되었다.
* 에이전트 영역: AI 에이전트가 사용자의 의도를 충실히 대변하는지 평가하는 방법이 필요하며, 에이전트는 사용자에게 불편한 정보를 제시하지 않거나 이전의 신념을 재고하도록 돕는 등 사용자의 최선의 이익을 위해 행동해야 한다.
* 제도 영역: AI 기반 플랫폼을 활용하여 대규모 민주적 숙고를 촉진하고, 봇이 공공 참여 과정을 왜곡하는 것을 방지하기 위해 인간과 AI 대리인의 신원 확인 시스템을 구축해야 한다.

시사점

AI 기술 발전 속도에 맞춰 민주주의 제도의 기술적, 제도적 인프라를 재구축하지 않으면, 민주주의는 심각한 위기에 직면할 수 있으며, 의도하지 않은 방향으로 발전할 위험이 존재한다.