ChatGPT’s ‘Trusted Contact’ will alert loved ones of safety concerns

개요

ChatGPT는 성인 사용자가 정신 건강 및 안전에 대한 우려 발생 시 사랑하는 사람에게 알릴 수 있는 선택적 안전 기능인 "Trusted Contact"를 출시했습니다.

주요 내용

• Trusted Contact 기능: 성인 ChatGPT 사용자는 정신 건강 또는 안전에 대한 우려가 감지될 경우 친구, 가족 또는 보호자를 "Trusted Contact"로 지정할 수 있습니다.
• 알림 메커니즘: OpenAI의 자동 시스템이 사용자가 자해 또는 자살과 같은 주제에 대해 논의하는 것을 감지하면, ChatGPT는 사용자에게 Trusted Contact에게 도움을 요청하도록 격려하고 해당 연락처가 통지될 수 있음을 알립니다.
• 검토 및 통지: "특별히 훈련된 소수의 팀"이 상황을 검토한 후, 심각한 안전 우려를 나타내는 대화로 판단되면 Trusted Contact에게 이메일, 문자 메시지 또는 인앱 알림을 보냅니다.
• 데이터 비공개: 알림은 의도적으로 제한적이며, 채팅 세부 정보나 대화 내용은 Trusted Contact에게 공유되지 않습니다.
• 옵트인 방식: 이 기능은 옵트인 방식으로, 사용자는 ChatGPT 계정 설정에서 18세 이상(한국은 19세 이상)의 Trusted Contact 세부 정보를 추가해야 합니다.
• 초대 수락 및 관리: Trusted Contact은 초대 수락 후 일주일 이내에 응답해야 하며, 사용자는 언제든지 연락처를 제거하거나 수정할 수 있고, Trusted Contact도 스스로를 제거할 수 있습니다.
• 이전 기능과의 연관성: 이 기능은 ChatGPT의 부모 통제 기능과 함께 도입된 비상 연락 기능에 기반하며, Instagram의 유사한 기능과도 맥락을 같이 합니다.

시사점

Trusted Contact 기능은 AI 챗봇과의 대화 중 발생할 수 있는 정신 건강 위기 상황에서 사용자의 안전망을 강화하고, 신뢰할 수 있는 사람과의 연결을 통해 추가적인 지원을 제공할 수 있습니다.