Here’s Why Anthropic Is Pushing States to Regulate AI Faster

개요

Anthropic은 AI 기술 발전 속도에 맞춰 정책 대응도 강화되어야 한다며, 기존 투명성 중심의 AI 규제만으로는 가장 강력한 AI 시스템에 대한 안전 조치로 충분하지 않다고 주장하며 더 강력한 주 및 연방 규제를 촉구하고 있습니다.

주요 내용

* Anthropic은 2023년 캘리포니아와 뉴욕에서 AI 투명성 요구 사항을 강화하는 법안을 지지했으며, 이는 많은 실리콘밸리 기업들의 반발을 샀습니다.
* 회사는 기존 법안이 이미 구식이 되어가고 있으며, 더욱 강력한 규제가 필요하다고 보고 있습니다.
* Anthropic은 일리노이주에서 AI 연구소에 제3자 감사를 요구하는 법안과, 매사추세츠주에서 제3자 감사 및 주지사의 집행 구제 권한을 부여하는 정책을 지지했습니다.
* 일부에서는 Anthropic이 복잡한 규제를 통해 경쟁 스타트업을 견제하려는 의도가 있다고 비판하지만, Anthropic은 자신들이 지지하는 법안이 수억 달러를 투자하고 연간 수억 달러 이상의 수익을 올리는 대규모 AI 모델 개발사에 적용된다고 반박합니다.
* Anthropic은 AI 모델 배포를 차단할 수 있는 메커니즘이 연방 정부에만 국한되어야 하며, 주정부 법률이 아닌 공정하고 투명한 평가 과정을 거쳐야 한다고 주장합니다.
* 회사는 연방 정부 차원에서도 중국 알리바바가 자사의 모델에서 정보를 추출하여 AI 도구를 개발했다고 주장하며 규제를 촉구하기도 했습니다.
* Anthropic은 최첨단 AI 모델의 능력과 잠재적 위험에 대한 투명성 및 안전성 확보를 최우선 과제로 삼고 있으며, 이는 AI 개발 기업의 책임이라고 강조합니다.
* AI 안전 및 노동 조합 등은 Anthropic의 규제 촉구에 동의하지만, 일각에서는 규제 포획(regulatory capture) 전략으로 해석합니다.
* AI의 파멸적 위험에 대한 논의와 대비되는, 일자리 감소나 데이터 센터 문제 등 일반 대중의 AI 관련 우려에 대한 입법 캠페인은 상대적으로 적었다는 지적이 있습니다.

시사점

Anthropic의 규제 강화 요구는 AI의 급속한 발전과 그 잠재적 위험에 대한 업계의 인식 변화를 반영하며, 향후 AI 정책 수립 방향에 중요한 영향을 미칠 것으로 보입니다.