Anthropic Added a New Security Measure to Get Back Into the Trump Administration’s Good Graces

개요

Anthropic은 트럼프 행정부의 제재를 완화하기 위해 AI 모델의 보안 조치를 강화했으며, 미국 대법원의 판결은 공화당의 선거 운동에 유리한 환경을 조성했습니다.

주요 내용

• Anthropic의 AI 보안 강화 및 제재 완화:
• 트럼프 행정부는 Anthropic의 Claude Fable 5 AI 모델에 대한 수출 통제를 해제했습니다.
• 이는 Anthropic이 기존의 안전 장치를 확장하여 사용자가 특정 제한된 기능을 악용하려는 시도를 방지하기로 합의함에 따른 조치입니다.
• 새로운 안전 조치는 민감한 사이버 보안 및 생물학 관련 기능뿐만 아니라, Amazon의 논문에서 식별된 특정 행동과 관련된 요청에도 적용됩니다.
• 사용자가 제한된 기능을 잠금 해제하려는 경우, 해당 요청이 차단되었음을 알리고 덜 발전된 Opus 4.8 AI 모델로 쿼리가 처리됩니다.
• 이전에는 Fable 5에서 사이버 보안 및 생물학 관련 요청이 Opus 4.8로 처리되었으나, 이제는 특정 행동 관련 요청까지 확장되었습니다.
• Katie Moussouris의 분석에 따르면, 사용자는 Fable 5의 코드 수정 요청을 통해 보안 문제 식별 제한을 우회할 수 있었습니다.
• 이러한 우회 시도가 행정부에 알려지면서 Anthropic과의 갈등이 발생했고, 사실상 모델을 오프라인 상태로 만든 수출 통제가 부과되었습니다.
• 상무부 장관의 서한은 Anthropic이 모델이 제기하는 보안 위험을 사전에 탐지하고 해결하는 데 동의했음을 명시했습니다.
• 상무부의 AI 표준 및 혁신 센터 연구원들은 현재 모델의 안전 장치가 충분히 강력하다고 판단하여 Fable 5 및 Mythos 5 AI 모델의 출시를 승인했습니다.
• 국방부 장관은 Anthropic을 공급망 위험으로 지정한 명령을 해제할 명확한 경로가 없다고 밝혀, 행정부와의 일부 문제는 여전히 남아있습니다.

• 미국 대법원의 판결과 공화당의 선거 운동:
• 미국 대법원은 정당이 선거 캠페인과 메시지 및 지출을 조정할 수 있도록 길을 열었습니다.
• 이번 6-3 판결은 공화당이 트럼프의 막대한 모금 활동을 활용할 수 있도록 하여 중간선거를 앞두고 공화당에 이점을 제공했습니다.
• 기존에는 민주당 후보들이 소액 기부자로부터 더 많은 자금을 모금하는 경향이 있었고, 공화당 후보들은 공화당 전국위원회(RNC)에 의존했습니다.
• 이 판결로 인해 전국 정당들이 더 저렴한 TV 광고 요금으로 캠페인 대신 무제한 광고를 구매하고 메시지를 직접 조정할 수 있게 되었습니다.
• 이는 TV 광고에서의 민주당의 이점을 뒤집을 수 있습니다.
• RNC는 6월 현재 1억 2,550만 달러의 현금을 보유하고 있으며 부채가 없습니다.
• 반면 민주당 전국위원회(DNC)는 1,490만 달러의 현금을 보유하고 1,830만 달러의 부채를 보고했습니다.
• 공화당은 하원 및 상원 선거 운동 부문에서도 앞서나가고 있습니다.
• 11월 중간선거를 앞둔 시점에서 이 판결은 민주당에게 불리하게 작용할 수 있습니다.

시사점

Anthropic의 AI 보안 조치 강화는 기술 기업과 정부 간의 규제 협상 과정을 보여주며, 미국 대법원의 판결은 정치 자금 조달 및 선거 운동 방식에 중대한 변화를 가져와 향후 선거 결과에 영향을 미칠 수 있습니다.