Cybercriminals Are Complaining About AI Slop Flooding Their Forums

개요

사이버 범죄자들 사이에서 생성형 AI의 남용으로 인해 포럼에 저품질 콘텐츠가 범람하는 것에 대한 불만이 제기되고 있습니다.

주요 내용

* AI 콘텐츠에 대한 불만 증가: 익명의 게시자는 AI 쓰레기(AI garbage)를 사이트에 통합하려는 계획에 실망감을 표하며, 이는 사용자들이 원하지 않는 것이라고 주장했습니다.
* 사이버 범죄 포럼의 AI 사용 반발: 보안 연구원 Ben Collier의 연구에 따르면, 사이버 범죄 포럼 및 해킹 그룹 내에서 생성형 AI 사용에 대한 반발이 증가하고 있습니다.
* AI로 인한 품질 저하 및 커뮤니티 훼손: ChatGPT 출시 이후 분석된 97,895건의 AI 관련 대화에서 기본 사이버 보안 개념에 대한 불릿 포인트 설명, 저품질 게시물 증가, 포럼 방문자 수 감소에 대한 우려가 나타났습니다.
* 인간적 상호작용에 대한 요구: 일부 사용자들은 AI 챗봇과 대화하기 위해 포럼에 오는 것이 아니라 인간적인 상호작용을 원한다고 밝히며, AI로 생성된 게시물로 인해 다른 사람들과 친구를 사귀는 데 방해가 된다고 느낍니다.
* 숙련도 과시 및 자존감 저하: AI 생성 게시물은 잠재적인 사이버 범죄자들이 자신이 숙련된 사람이라는 주장을 약화시키기 때문에, 많은 이들이 AI에 대해 양가적인 태도를 보입니다.
* AI의 실제 파괴력 제한적: 현재까지 저수준 사이버 범죄자들 사이에서 AI로 인한 '실질적인 파괴'의 명확한 징후는 발견되지 않았으며, 주로 SEO 사기, 소셜 미디어 봇, 일부 로맨스 사기와 같이 이미 고도로 자동화된 영역에 영향을 미치고 있습니다.
* AI 지원에 대한 제한적 수용: 일부 게시물 작성자는 게시물 구조화나 문법 개선을 돕는 AI 지원은 환영하지만, 완전히 대신 게시물을 작성하는 AI는 반대합니다.
* AI 기반 사이버 범죄 시장에 대한 회의론: AI를 활용하여 도난당한 데이터나 온라인 계정을 더 빨리 구매할 수 있는 'AI 강화' 사이버 범죄 시장에 대한 논의도 있었지만, 이러한 아이디어에 대한 회의적인 반응도 존재합니다.

시사점

사이버 범죄 커뮤니티 내에서도 AI 기술의 무분별한 사용은 콘텐츠 품질 저하와 커뮤니티의 본질적인 목적 훼손을 초래할 수 있으며, 이는 기술의 발전이 항상 긍정적인 결과만을 가져오지 않음을 시사합니다.