Hackers Hate AI Slop Even More Than You Do

개요

사이버 범죄자들 사이에서도 생성형 AI 기술의 남용에 대한 불만이 고조되고 있으며, 이는 기술이 그들의 커뮤니티와 운영 방식에 미치는 영향에 대한 양가적인 태도를 드러냅니다.

주요 내용

* 사이버 범죄자 커뮤니티 내 AI 혐오 증가: 벤 콜리어 보안 연구원의 연구에 따르면, 해킹 포럼 및 사이버 범죄 그룹에서 생성형 AI 사용에 대한 반발이 증가하고 있습니다. 이는 AI가 생성한 저품질 콘텐츠의 범람과 커뮤니티의 사회적 상호작용을 해치는 것에 대한 불만에서 비롯됩니다.
* AI가 전문성 및 신뢰도에 미치는 영향: 일부 사이버 범죄자들은 AI를 사용하여 자신의 기술적 능력을 과시하려는 시도가 자신의 전문성을 훼손한다고 느끼며, 이는 커뮤니티 내에서의 평판 구축을 어렵게 만듭니다.
* AI로 인한 실질적 파괴력의 한계: 현재까지 저수준 사이버 범죄자들 사이에서 AI로 인한 '실질적인 파괴'는 미미하며, 진입 장벽을 낮추거나 기존 사업 모델을 심각하게 교란하지는 못했습니다. SEO 사기, 소셜 미디어 봇, 로맨스 스캠 등 이미 자동화된 영역에 주로 영향을 미치고 있습니다.
* AI 기술의 양면적 활용 가능성: 정교한 위협 행위자들은 상용 AI 모델의 보안 장치(guardrails)를 우회하는 방법을 알고 있으며, AI 생성 프로젝트의 잠재적 취약점에도 주의하고 있습니다. 일부에서는 AI를 활용하여 게시물의 구조화나 문법 개선을 돕는 보조 도구로서의 가능성을 일부 인정하지만, 완전한 AI 기반 게시물 생성에 대해서는 부정적인 입장을 보입니다.
* AI 강화 사이버 범죄 시장에 대한 회의론: 해커들 사이에서 AI를 활용한 사이버 범죄 시장 구축 아이디어가 논의되었으나, 이는 "어리석은 발상"이라는 비판을 받으며 부정적인 반응을 얻었습니다.

시사점

사이버 범죄자들조차 AI 슬롭(slop)으로 인한 불만을 표출하는 현상은 기술의 윤리적 사용과 무분별한 확산에 대한 경각심을 일깨우며, AI가 전문적인 영역에 미치는 부정적 영향과 이에 대한 커뮤니티의 저항 가능성을 시사합니다.