OpenAI unveils Lockdown Mode to protect sensitive data from prompt injection attacks

개요

OpenAI가 프롬프트 주입 공격으로부터 민감한 데이터를 보호하기 위한 새로운 기능인 "Lockdown Mode"를 발표했습니다.

주요 내용

• Lockdown Mode는 악의적인 챗봇 지시가 웹페이지 및 기타 콘텐츠 소스에 숨겨져 발생하는 프롬프트 주입 공격에 대한 추가적인 보호를 제공합니다.
• 이 모드가 활성화되면 라이브 웹 브라우징(캐시된 콘텐츠만 접근 가능), 웹에서 이미지 검색 및 표시(이미지 생성은 가능), 딥 리서치, 에이전트 모드가 비활성화됩니다.
• OpenAI는 Lockdown Mode를 켜더라도 프롬프트 주입에 대한 취약성이 여전히 존재할 수 있으며, 이는 캐시된 웹 콘텐츠나 업로드된 파일에 나타나 응답의 동작이나 정확성에 영향을 미칠 수 있다고 밝혔습니다.
• Lockdown Mode의 목표는 민감한 데이터가 공유될 가능성을 줄이는 것입니다.
• 이 기능은 모든 사용자를 위한 것이 아니라 민감한 데이터를 다루고 프롬프트 주입 관련 데이터 유출 위험에 대한 더 엄격한 보호를 원하는 개인 및 조직을 위해 설계되었습니다.
• OpenAI는 현재 셀프 서비스 ChatGPT Business 계정 및 자격이 있는 개인 계정에 Lockdown Mode를 출시하고 있습니다.

시사점

Lockdown Mode의 도입은 AI 챗봇 사용 시 발생할 수 있는 보안 위협에 대한 OpenAI의 대응책을 보여주며, 특히 민감한 데이터를 다루는 사용자들이 더 안전하게 서비스를 이용할 수 있도록 하는 데 기여할 것으로 보입니다.