South Korean Forums Will Need to Scan Every Images with AI Censorship Tools

개요

대한민국 정부는 전기통신사업법 개정으로 인해 인터넷 커뮤니티 및 포럼 운영자에게 사용자 업로드 이미지와 동영상을 AI로 검열하도록 요구하고 있습니다.

주요 내용

* AI 검열 의무화: 2026년 7월 1일부터 한국의 인터넷 커뮤니티 및 포럼 소유자는 사용자가 업로드하는 모든 이미지와 비디오를 AI를 사용하여 스캔해야 합니다.
* 하드웨어 비용 부담: AI 모델 실행에 필요한 하드웨어는 정부가 제공하지 않으며, 웹사이트 소유자가 직접 데이터센터급 Nvidia GPU를 구매해야 하므로 소규모 사업체와 포럼에 재정적 부담을 안깁니다.
* 검열 대상의 모호성: 초기에는 불법 촬영된 영상물이나 CSAM(아동 성 착취물) 등을 대상으로 했으나, 실제로는 미성년자가 포함된 창작물(그림, 소설 등)을 CSAM으로 분류하는 등 범위가 확대될 수 있습니다.
* 과거 사례: 메신저 앱에서 AI 모델이 일반 수영복 사진, 애니메이션 그림, 밈, 'sex'라는 단어가 포함된 사진, 심지어 선형 대수학 문제까지 검열했던 사례가 있습니다.
* 표현의 자유 우려: 정치인에 대한 밈이나 풍자 등도 향후 검열 대상이 될 가능성이 있으며, 이는 한국의 오랜 검열 전통과 온라인 공간에서의 표현의 자유 위축으로 이어질 수 있다는 우려가 제기됩니다.

시사점

이번 규제는 온라인 커뮤니티 운영에 상당한 기술적, 재정적 부담을 야기하며, AI 검열의 확대 적용 가능성과 표현의 자유 침해에 대한 논란을 불러일으키고 있습니다.