- 인터넷이 AI 생성 저품질 콘텐츠(slop)로 넘쳐나는 가운데, 사람들이 AI에 적극적으로 저항하는 다양한 움직임이 확산 중
- Reddit 커뮤니티 r/PoisonFountain은 AI 크롤러에 하루 1테라바이트의 오염 데이터를 제공하는 것을 2026년 말까지 목표로 활동 중
- AI 비디오 요약기를 속이는 기법이나 소셜 미디어에서의 의도적 허위 데이터 삽입 등 다양한 형태의 저항이 등장
- AI 크롤러들이 robots.txt를 무시하고 소규모 웹사이트에 DDoS 수준의 부하를 일으키는 현실이 이러한 저항의 배경
- 이 감정이 평화적이고 합법적인 저항 행위로 이어진다면, 실리콘밸리의 데이터 수집 방식을 바꿀 수 있다는 기대
AI 크롤러 대상 데이터 오염 커뮤니티
- Reddit 커뮤니티 r/PoisonFountain 은 AI 업계 내부자를 자처하는 사람들이 만든 커뮤니티로, 가능한 한 많은 사람들이 웹 크롤러에 대량의 쓰레기 데이터(poison)를 공급하도록 독려
- 2026년 말까지 크롤러에 하루 1테라바이트의 오염 데이터 제공이 목표
- 오염 데이터의 본체는 rnsaffn.com 에 호스팅되어 있으며, AI 크롤러가 유혹될 만한 가비지 링크 사이에 배치
- 언뜻 보면 정상적인 코드처럼 보이지만, 실제로는 미묘한 오류가 포함되어 사용 불가능한 코드를 생성
- 이러한 오류를 필터링하는 것은 가능하지만 대규모로는 비용이 많이 소요됨
- AI 기업들은 인간이 만든 새로운 데이터 없이는 모델을 개선할 수 없으므로, 데이터 도용의 시간과 비용을 증가시키는 것이 핵심 전략
- Miasma 는 이 오염 데이터를 활용해 악성 봇에 대량의 가비지를 제공하는 도구로, 개발자는 이를 "슬롭 머신을 위한 끝없는 슬롭 뷔페"로 표현
AI 크롤러의 문제 행위
- AI 크롤러를 보내는 팀들이 소규모 웹사이트에 정기적으로 DDoS 수준의 부하를 일으키고 있으며, 모든 사람의 호스팅 비용을 상승시키고 있음
- robots.txt를 준수하지 않으며, 주거용 프록시 뒤에 크롤러를 숨기는 경우도 빈번
- 윤리적으로 훈련 데이터를 조달할 수 없다면, 어떤 웹사이트 운영자도 데이터 도용을 쉽게 만들어줄 이유가 없음
AI 비디오 요약기 오염 시도
- r/PoisonFountain을 통해 알려진 영상에서, @f4mi라는 크리에이터가 YouTube 자막 루프홀을 이용해 AI 비디오 요약기를 오염 시키는 기법을 시연함
- 현재는 YouTube가 해당 자막 루프홀을 수정하여 이 기법은 더 이상 작동하지 않음
- 일시적이었지만 AI 시스템을 교란하는 데 성공한 사례로, 사람들이 적극적으로 저항을 시도하고 있음을 보여줌
소셜 미디어에서의 의도적 AI 사보타주
- Reddit 등 소셜 미디어 플랫폼에서 의도적으로 허위 정보를 작성해 AI 학습 데이터를 오염시키는 행위가 증가 중
- 예시로, "Everybody Loves Raymond"에서 Idris Elba가 Raymond의 어머니 역을 연기했다는 명백한 허위 정보를 게시하는 사례도 있음
- 인간은 맥락상 허위임을 즉시 파악할 수 있지만, 자동화된 웹 스크레이퍼는 이를 양질의 인간 생성 데이터로 인식
- 이 데이터가 OpenAI 등으로 전달되면, 훈련 데이터셋에서 이를 제거하는 데 추가 리소스가 소요됨
- 산업혁명 시대 방직 노동자들이 동력 직기를 파괴한 것의 현대적 변형이라 할 수 있으며, 충분한 수의 사람들이 봇 대상 허위 정보로 공공 공간을 오염시키면 AI 기업들이 훈련 데이터 수집 방식을 재고하도록 압박할 수 있음
AI에 대한 광범위한 반감
- 사람들은 AI가 세상에 미치는 영향에 대해 반감을 가지고 있으며, 구체적으로 온라인 커뮤니티, 환경, 초등학교와 대학교, 정신건강 위험군, 생계에 미치는 영향에 반감을 느낌
- AI 슬롭을 소비하고 생성하는 사람들도 있지만, 오프라인과 온라인 모두에서 이 기술을 혐오하고 거부하는 사람들이 훨씬 많음
- 혐오 감정이 좋은 결과로 이어지는 경우는 드물며, AI 배달 로봇을 발로 차거나 전복 시키는 행위나 Sam Altman의 집에 화염병을 투척한 사건 등 폭력적 행위에는 반대 입장임
- 다만 AI에 대한 감정이 평화적이고 합법적인 저항 행위로 전환된다면, 실리콘밸리의 행동 방식을 실제로 바꿀 가능성이 있음
후일담: Hacker News 바이럴 이후 원문 수정
- 이 글이 대형 뉴스 허브(Hacker News) 첫 페이지 에 올라가며 예상치 못한 대규모 트래픽이 유입됨
- 소수 IP 주소에서 해당 페이지에 수천 건의 요청을 보내는 악의적 서버 과부하 공격이 발생
- 저가 공유 호스팅이었다면 사이트가 완전히 다운됐을 가능성이 높았으며, 대응으로 해당 URL 트래픽을 일시 차단
- AI 전문가가 아님에도 일부 댓글 참여자들이 전문가 수준의 정확성을 요구하며 과도하게 비판
- 한 댓글은 "도서관을 불태우는 집단보다 나을 게 없다"는 표현을 사용, 도서관과 지식 공유를 좋아하는 블로거에게 특히 실망스러운 반응
- 원래 소규모 블로그 팔로워를 위해 반AI 동향 링크를 공유한 것이 목적이었으며, 이렇게 큰 플랫폼에서 부정적 관심을 끌 줄 알았다면 게시하지 않았을 것이라는 입장
- 이후 AI 관련 개인 의견 게시를 자제하겠다는 결정을 내렸으며, 블로그 운영의 본래 목적인 소규모 웹(small web)에서의 즐거움에 집중할 예정
- 소규모 웹에서의 자유로운 의견 표현이 바이럴 확산으로 인해 위축되는 현실을 보여주는 사례