Meta will use AI to analyze height and bone structure to identify if users are underage

개요

Meta는 AI를 활용하여 사진 및 동영상에서 키나 뼈 구조와 같은 시각적 단서를 분석하여 만 13세 미만 사용자를 식별하고 플랫폼에서 제거하는 새로운 시스템을 도입합니다.

주요 내용

* Meta의 새로운 AI 시스템은 사용자의 사진 및 동영상에 나타나는 키, 뼈 구조 등 일반적인 시각적 큐를 분석하여 대략적인 연령을 추정합니다.
* 이 AI는 특정 인물을 식별하는 얼굴 인식 기술이 아니며, 텍스트 및 상호작용 분석과 결합하여 미성년자 계정 식별 및 제거를 강화하는 데 사용됩니다.
* 이 시각 분석 시스템은 현재 일부 국가에서 운영 중이며, Meta는 점진적인 확대 적용을 목표로 하고 있습니다.
* Meta는 미성년자 계정 식별을 위해 생일 축하, 학년 언급 등 프로필의 전반적인 맥락적 단서를 분석하는 AI 기술도 활용하고 있습니다.
* 이 시스템은 향후 Instagram Live 및 Facebook Groups 등 Meta의 다른 앱으로 확장될 예정입니다.
* AI 분석 결과 미성년자로 판단될 경우 계정이 비활성화되며, 계정 삭제를 막기 위해서는 Meta의 연령 확인 절차를 통해 나이를 증명해야 합니다.
* 이 발표는 Meta가 플랫폼 안전에 대해 소비자를 오도하고 아동을 위험에 빠뜨렸다는 이유로 3억 7,500만 달러의 민사 벌금을 부과받은 지 몇 주 만에 나온 것입니다.
* Meta는 또한 Instagram에서 10대 사용자를 더 엄격한 '틴 계정(Teen Accounts)'으로 자동 배치하는 기술을 EU 27개국과 브라질로 확장했습니다.
* '틴 계정'은 팔로우하거나 이미 연결된 사람으로부터만 DM을 받거나, 유해한 댓글을 숨기고, 기본적으로 계정을 비공개로 설정하는 등 추가적인 안전 장치를 제공합니다.
* 이 기술은 미국 내 Facebook에도 처음으로 적용되며, 이후 영국과 EU에도 확장될 예정입니다.

시사점

Meta의 AI 기반 연령 추정 시스템 도입은 플랫폼 내 미성년자 보호를 강화하기 위한 기술적 진전을 보여주며, 향후 소셜 미디어 플랫폼에서 아동 안전 규정 준수를 위한 중요한 도구로 활용될 수 있습니다.