OpenAI launches a safer ChatGPT for teens — years after teens started using it

개요

OpenAI가 청소년을 위한 더 안전한 ChatGPT 버전을 출시하며, 잠재적 유해 콘텐츠 노출을 줄이고 학습 지원 기능을 강화했습니다.

주요 내용

• 안전 및 유해 콘텐츠 차단 강화: 청소년 사용자를 대상으로 유해하거나 발달에 부적합한 콘텐츠 노출을 줄이기 위한 연령 적합 보호 기능이 기본으로 활성화됩니다. 이는 OpenAI의 'Under-18 Principles'에 기반하며, 발달 과학 및 전문가의 조언을 반영했습니다.
• 학습 지원 기능 도입:
• Study Mode: 청소년 사용자가 문제를 푸는 데 도움이 되는 안내 질문과 단계별 지원을 제공하여 개념 이해를 돕습니다.
• 숙제 방해 방지: 사용자가 자료를 이해하기보다 숙제를 빨리 끝내려는 시도를 보일 경우, 숙제 알림이 나타나 Study Mode 사용을 권장합니다.
• 퀴즈 및 학습 시각화 지원: 퀴즈 기능과 학습 시각화 도구를 제공하여 학습 경험을 향상시킵니다.
• 부모/보호자 제어 기능: 부모 또는 보호자가 Study Mode 활성화 시점 설정, 가족 도구 및 기존의 자녀 보호 기능을 사용하여 설정을 관리하고, 안전 알림을 받으며, Quiet Hours(조용한 시간) 등을 설정할 수 있습니다.
• AI 교육 파트너십: CodeAI와의 파트너십을 통해 청소년이 AI의 작동 방식, AI 지시 및 질문 방법, AI 활용법 등을 학습할 수 있도록 지원합니다.
• 출시 배경: AI 챗봇의 안전 조치 미비로 인한 청소년의 정신 건강 문제 및 자살 사건 등 여러 소송 이후 출시되었습니다.

시사점

이번 OpenAI의 청소년 맞춤형 ChatGPT 출시는 AI 기술의 안전성과 교육적 활용성을 동시에 고려한 결과이며, 향후 AI 서비스 개발에 있어 사용자 연령별 맞춤형 안전 및 학습 기능의 중요성을 부각합니다.