UK regulator warns of "arms race" to keep up with AI use in financial services

개요

영국 금융감독청(FCA)의 보고서는 금융 서비스 분야에서 AI 사용에 대한 "군비 경쟁"의 위험성을 경고하며, AI가 금융 포용성을 증진할 잠재력과 함께 사기 및 사이버 공격 위험 증폭 가능성을 지적한다.

주요 내용

• 금융 서비스 분야의 AI 사용은 추천이나 지도와 유사한 기능 수행 가능성에 대한 질문을 제기한다.
• AI는 고액 자산가에게만 제공되던 정교한 금융 서비스 접근성을 넓혀 금융 포용성을 "민주화"할 수 있으며, 연봉 2만 파운드 소득자도 금융 조언을 받을 수 있게 된다.
• FCA는 AI 기반 금융 역량 강화 서비스 개발을 위해 공공 및 민간 부문 그룹을 소집할 것을 권고한다.
• 많은 금융 서비스 기업들이 기업 및 소비자를 위한 금융 거래를 자율적으로 수행할 수 있는 AI 에이전트를 시범 운영 중이다.
• AI 모델의 행동에 대한 관리자의 책임은 여전히 중요하며, AI가 수행하는 업무에 대한 인간의 책임을 요구한다.
• AI는 사기 및 사이버 공격 위협을 "증폭"시킬 가능성이 높으며, 딥페이크, 합성 신원, 개인화된 사회 공학 등으로 인해 사기 및 사이버 공격 방식이 변화하고 있다.
• 보고서는 Anthropic, OpenAI, Amazon, Google, Microsoft와 같은 금융 부문 주요 기술 제공업체를 감독할 수 있는 "중요 제3자" 제도 하에서 FCA의 권한 강화와 특정 활동을 규제할 수 있는 "지정 활동 제도" 하에서의 추가적인 권한 확보를 권고한다.
• 정부는 "중요 제3자" 제도로 지정할 빅테크 그룹을 결정해야 하며, 이는 규제 당국이 연간 자체 평가 및 심각한 중단 사태에 대한 회복력 시나리오 테스트를 포함한 보다 강력한 공개 요구 사항을 부과할 수 있게 한다.
• FCA 이사회는 보고서에 대한 대응 방안을 결정하기 전에 보고서를 논의할 예정이다.
• FCA는 AI 시스템이 금융 범죄 퇴치에 도움이 될 수 있는지 테스트하기 위해 미국 기술 그룹 Palantir와 12주 계약을 체결한 것에 대해 일부 정치인들로부터 비판을 받았으며, 이는 민감한 영국 금융 정보에 대한 미국 당국의 접근을 허용할 수 있다는 우려를 제기했지만, FCA와 Palantir는 이를 부인했다.
• 영국 성인의 5분의 1이 금융 의사 결정을 위해 AI 모델을 사용하는 데 개방적이라는 연구 결과가 있다.

시사점

금융 서비스 분야에서 AI의 도입은 금융 포용성을 확대하고 효율성을 높일 잠재력을 가지고 있으나, 동시에 증가하는 사기 및 사이버 보안 위험에 대한 강력한 규제 및 관리 감독 강화가 필수적이다.