AI Slop이 온라인 커뮤니티를 죽이고 있다

• AI Slop은 저노력 AI 생성물을 필요로 하지 않는 사람들에게 밀어 넣는 행위로, 선의에서 나온 결과물이라도 온라인 커뮤니티의 신호를 흐리고 구성원을 지치게 만듦
• 프롬프트만 실행해 만든 GitHub 저장소, 블로그 글, 영상, 전자책을 여러 subreddit과 Slack에 뿌리는 방식은 기여보다 커뮤니티 부담이 되기 쉬움
• 공유 전에는 실제로 유용한지, 만든 사람이 직접 쓰는지, 문서와 테스트가 충분한지, 이슈와 PR을 책임질 준비가 됐는지 확인해야 함
• 좋은 AI 활용은 Built with AI, not by AI처럼 사람이 생각하고 지시하고 검증해 이전에는 어려웠던 기여를 가능하게 하는 경우이며, Gunnar Morling의 Hardwood처럼 설계와 로드맵을 갖춘 프로젝트가 이에 해당함
• 커뮤니티를 존중하려면 먼저 분위기를 살피고, 관련 있는 내용만 공유하며, AI 사용 여부와 범위를 명확히 밝혀야 하고, 그렇지 않으면 리뷰어와 독자에게 불필요한 영향을 떠넘기게 됨

---

AI 생성물 공유가 커뮤니티에 미치는 영향

• 인터넷에는 AI로 만든 결과물을 공유하는 사람이 늘고 있으며, 그중 상당수는 만든 사람의 개인 공간에 둘 만한 결과물일 뿐 넓은 커뮤니티에 배포할 만한 내용은 아니라고 봄
• AI 자체에 반대하는 입장은 아니며, AI를 받아들이지 않는 태도는 시대 흐름에 어긋난다고 봄
• 문제는 악의가 없더라도 가치 있는 커뮤니티가 저품질 AI 생성물의 공세 속에서 서서히 약해지고 있다는 데 있음
• “Kafka를 COBOL로 다시 썼다”, “Kafka 블로그 글을 썼다”, “Kafka 영상을 만들었다”, “Kafka 전자책을 냈다” 같은 결과물이 실제로는 Claude가 만든 낮은 품질의 산출물이라면 유용한 학습 자료나 커뮤니티 기여로 보기 어려움
• 프롬프트를 입력하고 실행한 것만으로 새 GitHub 저장소의 star를 요구하거나, AI가 만든 글과 저장소를 여러 subreddit과 Slack에 무차별로 공유하는 방식은 커뮤니티에 부담을 줌

공유하기 전에 멈춰야 할 지점

• 반복되는 패턴은 대체로 다음과 같음
  • 에이전트형 코딩(agentic coding)을 발견하고 큰 충격을 받음
  • 프로젝트를 GitHub에 올림
  • AI로 열광적인 블로그 글을 쓰게 한 뒤, 관련성 여부와 상관없이 찾을 수 있는 모든 subreddit과 Slack 그룹에 공유함
• 두 번째 단계 뒤에서 멈추고, 무엇을 만들었는지와 왜 공유하려는지 깊이 생각해야 함
• “멋져서”가 이유라면 충분하지 않음
  • 에이전트형 코딩은 더 이상 신기한 것이 아니며, 이제는 작업 방식의 일부가 됐다고 봄
  • 프롬프트를 생각할 수 있으면 AI가 작성할 수 있다는 사실만으로는 큰 의미가 없음
• 널리 공유하기 전 확인해야 할 질문이 있음
  • 실제로 유용한가
  • 만든 사람이 직접 쓰고 있는가
  • 문서가 충분히 좋은가
  • 사용할 수 있는 상태인가
  • 코드를 반복해서 다시 살펴보고 충분히 시험했는가
  • 단발성으로 Claude와 만든 뒤 다음 날에는 별로 좋은 생각이 아니었다고 느끼는 수준은 아닌가
• 소프트웨어라면 사람들이 이슈를 올리고 PR을 보낼 수 있는 대상으로 책임질 준비가 필요함
• 글이라면 자신이 읽고 싶을 만한 글이어야 하며, 커뮤니티의 누적 이해에 실제로 보탬이 되어야 함
• 단지 LLM이 자동완성하듯 만들어낸 텍스트라면 만든 사람도 쓰기 싫고 독자도 읽기 싫은 결과물이 될 수 있음

왜 문제가 되는가

• AI slop은 커뮤니티의 소음을 키우고, 신호를 점점 구분하기 어렵게 만듦
• Reddit 같은 공간이 점점 vibe-coded AI 결과물로 뒤덮이고 있으며, 많은 경우 선의에서 나왔더라도 커뮤니티에 기여하지 못한다고 봄
• 커뮤니티가 이런 내용으로 오염될수록 구성원은 AI slop을 헤치고 다니는 데 지쳐 물러나게 됨
• 구성원이 물러나면 커뮤니티의 유기적 생명력이 더 줄어드는 하향 나선이 생길 위험이 있음
• 이런 흐름이 계속되면 온라인 커뮤니티는 시들어 죽거나, 인간 없이 AI 에이전트끼리 “대화”하는 디스토피아적이지만 평범한 MoltBook 같은 형태로 수렴할 수 있음

좋은 AI 활용과 나쁜 AI slop

• AI Slop이라는 표현은 최근 널리 쓰이고 있음
• 일반적으로는 AI가 만든 저노력 자료를, 그 자료가 도움이 되지 않는 사람들에게 밀어 넣는 행위를 부정적으로 가리킴
• 다만 일부는 AI가 쓴 것이 아니더라도 AI에 대해 쓴 모든 것을 “AI Slop”이라고 부르며, 이런 태도는 AI를 혐오하는 쪽과 강하게 겹칠 가능성이 있다고 봄
• AI의 도움으로 만든 자료 자체가 나쁜 것은 아님
  • 핵심은 그것이 어떤 목적에 쓰이는가임
• 좋은 AI 활용은 이전에는 할 수 없던 일을 가능하게 하고, 이전에는 기여하지 못하던 사람이 커뮤니티에 기여하게 만드는 경우임
• 뒤에 인간의 주의와 좋은 의도가 있다면 AI 활용은 분명한 순효과가 될 수 있음
• 나쁜 AI slop은 커뮤니티 발전이 아닌 다른 목적을 위해 담장 너머로 쓰레기를 던지는 것과 같음
  • 스팸
  • 참여 유도용 저품질 게시물
  • 해당 목적의 공간이 아닌 곳에 던져지는 무심한 소음

공유의 기준

• 온라인에서 콘텐츠를 공유하는 일은 훌륭하며, 인터넷을 지금의 모습으로 만든 중요한 요소임
• 중요한 요령은 무엇을, 누구에게, 왜 공유하는지 이해하는 것임
• Geocities 시대에는 고등학생 너드들이 각자 홈페이지를 만들었고, Under Construction 애니메이션 GIF, 웹 카운터, 웹링 배너를 넣기도 했음
• 그런 홈페이지를 만들었다고 해서 듣는 모든 사람에게 공유해야 하는 것은 아님
  • 친구나 부모에게 보여줄 수는 있음
  • 일반 인터넷 전체에 공유할 만한지는 별개의 문제임
• AI 생성 콘텐츠도 같은 기준이 적용됨
  • vibe-coded 앱이든 블로그 글이든, 만들었다는 이유만으로 모두에게 공유할 필요는 없음
• 2026년 초 인터넷은 Claude Opus 4.5의 힘을 발견하며 집단적 충격을 겪었고, 그 자체는 매우 멋진 일이었다고 봄
• 새로운 것을 발견하면 사람들은 친구들과 공유하고 싶어 함
• 여기에 이미 과열된 AI 과장 마케팅이 결합되면서 subreddit과 Slack이 AI 생성물로 넘쳐나게 됨

무엇을 공유해야 하는가

• AI에 의해 만들어진 것이 아니라 AI와 함께 만든 것

  • Gunnar Morling의 최근 글에 나온 “Built with AI, not by AI”라는 구분이 핵심임
  • AI는 강력한 도구이며, 업무 도구함에 포함하지 않는 것은 거의 직무 태만에 가깝다고 봄
  • 그러나 AI는 도구일 뿐이며, 생각하고 지시하고 확인하는 일은 사람이 해야 함
  • Gunnar Morling은 AI를 사용해 Apache Parquet용 새 파서인 Hardwood를 만들었음
  • Hardwood는 지금까지 4개월이 걸린 프로젝트이며, 탄탄한 로드맵, 커져 가는 커뮤니티, 신중한 설계를 갖추고 있음
  • 이런 프로젝트는 AI를 사용했다는 이유만으로 비판 대상이 되지 않음

• 기여

  • 공유하려는 것이 커뮤니티에 실제로 기여하는지 따져야 함
  • 본질적으로 에이전트형 코딩 도구에 프롬프트를 넣은 결과물에 불과한지 확인해야 함
  • 같은 프롬프트를 다른 사람이 실행해도 비슷한 결과가 나온다면, 그 자체가 해당 주제에 대한 의미 있는 기여인지 의심해야 함
  • 프롬프트 엔지니어링은 재미있고 흥미로운 연구 대상이지만, 커뮤니티가 다루는 주제 자체와는 곁가지일 수 있음
  • 화려한 가구 애호가 커뮤니티에 흥미로운 끌 세트를 보여주고 싶다는 이유로 Ikea풍 가구를 계속 던지는 것과 비슷함
  • Claude로 만들 수 있는 모든 멋진 앱을 공유할 필요는 없음
  • 버리는 도구나 작은 스크립트는 괜찮으며, 인터넷은 사람들이 만들고 공유한 이상한 작은 스크립트 위에 세워진 면도 있음
  • 다만 그런 도구는 gist나 GitHub에 올리면 충분하며, Steve Jobs의 재림처럼 출시 블로그 글까지 필요하지 않음

• 커뮤니티 존중

  • Usenet, Reddit, lobste.rs 등 온라인 플랫폼에서 기본 예절은 먼저 “숨어서 지켜보기(lurk)”임
  • 한동안 머물며 글을 읽고, 그 공간의 분위기를 파악해야 함
  • 어떤 커뮤니티에서 무엇이 허용되는지는 개인이 아니라 커뮤니티 구성원이 결정함
  • Kafka 프로토콜의 새로운 구현을 vibe coding으로 만들었더라도, 사람들이 보고 싶어 할지 확실하지 않다면 분위기를 읽어야 함
  • 확신이 없다면 물어보는 편이 좋음
  • 커뮤니티를 존중하는 또 다른 방법은 기여물에서 AI를 사용했는지, 어떻게 사용했는지, 어디에 사용했는지를 매우 공개적이고 명확하게 밝히는 것임

• 헛소리의 비대칭성

  • 기여가 다른 사람에게 어떤 영향을 주는지 봐야 함
  • 헛소리를 반박하는 데 드는 에너지는 헛소리를 만드는 데 드는 에너지보다 한 자릿수 규모로 더 큼
  • 말이 안 되는 글을 쏟아내면, 읽을 가치가 없다는 사실을 독자가 직접 깨닫는 부담을 떠안게 됨
  • 충분한 주의 없이 복잡한 PR을 프로젝트에 던지면, 리뷰어가 코드를 살펴보고 병합할 수 없는 이유를 설명해야 하는 부담을 떠안게 됨
  • 이런 경우 커뮤니티는 그 기여가 없는 편이 더 나음
  • 나쁜 의미의 AI slop이 너무 많아지면서 커뮤니티와 프로젝트는 기여의 영향을 처리하는 데 어려움을 겪고 있음
  • 일부는 AI가 닿은 모든 것을 엄격히 금지하는 정책까지 채택함
  • Vouch 같은 프로젝트는 이 문제를 해결하려고 등장했지만, 이미 되돌리기 어려운 선을 넘었고 어디로 갈지는 불확실함
  • AI 이전에는 기여에 필요한 노력이 일종의 작업 증명 역할을 했음
  • 그 노력은 사람들을 단념시키거나 실제 헌신을 보여줬고, 커뮤니티는 낮은 품질의 기여도 감당할 수 있었음
  • 선의를 갖고 배우려는 사람은 멘토링을 받아 중요한 구성원으로 성장할 수 있었고, 스팸에 가까운 사람은 양이 적어서 처리할 수 있었음

큰 힘에는 책임이 따른다

• 커뮤니티는 강력하지만 취약한 존재임
• LLM과 에이전트형 코딩 도구가 주는 힘은 즐겁게 탐색해도 됨
• 그 도구가 주는 “정말 멋지다”는 감각도 즐길 수 있음
• 하지만 커뮤니티를 존중해야 하며, 정말 관련 있는 것만 공유해야 함
• 유치원 크레용 그림 같은 산출물은 주방 냉장고에 붙여두는 편이 낫다고 봄

[mammal]

어딜가든 이모지 섞여있는 글은 무조건 거릅니다.

[GN⁺]

Hacker News 의견들

• Reddit에서 에이전트로 카르마 파밍과 은밀한 광고 실험을 해본 뒤로 거의 손절했고 더는 방문하지 않음
  그 에이전트가 쓴 글들을 읽어보니, 독자 입장에서는 컴퓨터가 쓴 글이라는 걸 전혀 알 수 없겠다고 느꼈고, 많은 사람들 또는 다른 봇들이 그와 제대로 대화를 나누는 걸 보고 조금 무서워졌음
  Hacker News는 아직 그 정도까지는 아니지만, 여기에도 많은 “사용자”가 LLM이라는 건 사실로 알고 있음. 온라인 커뮤니티는 확실히 죽어가고 있고, 이 흐름 속에서 현실 커뮤니티가 다시 살아나길 바람

  • 한동안 Reddit에서 ChatGPT로 분노 유발 글을 만들어 올린 뒤, 나중에 가짜였고 ChatGPT가 썼다고 수정하는 실험성 글이 많았음
    아마 AI 이야기에 반응한 사람들을 바보처럼 느끼게 만들어 교훈을 주려 했던 것 같은데, 대부분은 믿기 어려울 정도로 가짜 티가 났음. 그래도 상관없었고, 가짜라고 인정한 뒤에도 글은 계속 인기 있었고 댓글도 계속 달렸음
    조언 서브레딧에서는 여전히 상황에 대한 조언이 이어졌고, 어떤 댓글은 가짜라는 공지를 봤지만 그래도 논쟁을 계속하겠다고 했음
    Reddit의 특징은 분명함. 글의 진실성은 중요하지 않고, 인기 서브레딧의 적극적인 댓글층은 그저 토론할 거리와 대개 화낼 거리를 원함. 돌이켜보면 AI 전에도 오보성 글이 수년간 카르마 파밍에 가장 쉬웠으니 당연한 일임
  • 신원 증명이나 신뢰망 기반 보증이 없으면 공개 채팅 커뮤니티는 사실상 죽을 것 같음. 아니면 뉴스 사이트 댓글란보다 조금 나은 정도, 활발하지만 가치 없는 공간이 될 듯함
    지금도 잘 굴러가는 온라인 커뮤니티들에 여럿 참여하고 있지만, 차이는 시간이 쌓인 지속적 관계와 여러 플랫폼을 넘나드는 참여가 있다는 점임
    이 시계도 언젠가는 끝나겠지만, 텍스트 채팅, 음성·영상 통화, 온라인 게임, 현실 활동으로 이어진 관계망이 섞여 있으면 사용자를 가짜로 꾸미기가 아직은 더 어려움
    그래도 쉬운 익명 온라인 연결의 황금기는 끝났다는 데 동의함
  • 온라인 커뮤니티가 죽고 현실 커뮤니티가 되살아날 수 있다는 흐름을 지켜보는 건 꽤 흥미로울 듯함
    인터넷 이전에 자라서 외부 커뮤니티를 찾는 법은 역사적으로 알고 있지만, 고등학교 초반부터 온라인 생활에 깊이 들어가서 현실의 클럽이나 무리를 새로 찾는 감각은 많이 녹슬었음
    다행히 친구도 많고 자주 밖에 나가지만, 인터넷 없는 삶을 겪어본 적 없는 젊은 세대가 어떻게 찾아갈지는 행운을 빌면서도 그 여정을 보고 싶음
  • Reddit은 내게 거의 죽은 서비스임. 인기 서브레딧은 봇 천지이고, 틈새 서브레딧은 비어 있음. 게임 서브레딧에서도 답글 하나 받기 힘듦
  • Reddit을 망친 사람이 누구인지 스스로 돌아본 적은 있음?

• 인터넷의 저품질화는 이미 수년째 진행 중인데, 솔직히 진짜 해결책이 어떤 모습일지는 모르겠음
  대부분은 신원 확인 절차를 거치거나, 커뮤니티 가입에 돈을 내거나, 초대 전용 공간에 들어가는 걸 원하지 않음. 초대 전용 공간은 생각의 다양성을 꽤 빨리 잃을 가능성도 큼
  그래도 봇 문제는 더 견디기 어려워질 테니, 그중 하나가 그나마 덜 나쁜 선택일지도 모름. 덧붙여 글쓴이의 문체는 정말 마음에 들었음

• 틈새 창작 커뮤니티를 운영하고 있고, 2022년에 AI 생성 콘텐츠 금지를 도입했음. 커뮤니티를 얼마나 부식시킬지 쉽게 보였기 때문임
  쉽지는 않았음. 매일 가짜 AI 계정을 차단하고, 매달 AI 콘텐츠 제작자 계정 약 600개를 쳐냄
  AI 콘텐츠가 등장하기 전에는 필요 없던 추가 작업이고, 당연히 비용도 더 듦. 이 싸움에서 질까 두려움

  • 계정 생성에 1달러나 5달러를 받으면 어떨까? 그런 방식이면 물밀듯 들어오는 걸 꽤 쉽게 막을 수 있을 것 같음
  • 많은 커뮤니티와 달리 최소한 처음부터 올바른 쪽에 섰음. 천천히 깨닫고 나서야 금지했어야 했다고 후회하는 것보다, 처음부터 전면 금지하는 편이 나음
  • 한때 작은 틈새 창작 글쓰기 커뮤니티에 있었음. 2021~2022년쯤이었고, AI 때문에 간 건 아니었지만 사람들이 궁금해해서 잡담 게시판에서 여러 LLM을 시연했음
    작동 방식을 설명했는데도 거의 모두가 적어도 관심은 보였음. 한 작가는 자신도 좋아하는 작가들의 글을 손으로 한 글자씩 베끼며 문체를 익혔기 때문에 비슷하게 작업한다고 말했음. 당시 주된 걱정은 기술적으로 쓰기 어렵다는 점이었음
    나는 배우러 온 사람이고 LLM 파생 콘텐츠를 출판하려 하지 않을 거라고 자주 말했음. 그런데 2022년 말쯤 스위치가 켜진 것처럼 거의 모두가 AI와 그 사용자들을 명백히 악하다고 말하기 시작했고, 내 이름을 직접 말하진 않았지만 나와의 교류를 멈췄음
    점점 강한 반AI 성향의 Twitter 콘텐츠를 다시 올리고, 여러 출판물에 들어온 AI 제출물을 비난했음. 결국 누군가 LLM 사용자는 죽어야 한다는 트윗을 다시 올렸고, 반대는 하나도 없었으며 오히려 격려가 많았음
    그래서 그냥 떠났음. 나는 긍정적으로만 참여했고, 궁금해하는 사람들에게 답하고 도우려 했음. AI 보조 이야기를 하나 올린 적은 있지만, 편집기에서 내 기여와 AI 기여가 자동으로 어떻게 추적되는지 보여주기 위한 기술 시연이었고, 내가 쓴 부분도 명확히 표시했음
    나중에 제출 규칙에는 AI 작성 콘텐츠로 판단되면 그 사람을 커뮤니티 전체 제출에서 블랙리스트에 올린다는 조항이 추가됐음. LLM과 AI 탐지기의 무용함을 시연했던 입장에서, 내가 조금이라도 모습을 드러내면 그들이 나를 블랙리스트에 올릴 명분을 만들 수 있겠다고 보였음
    제출하려고 직접 쓰던 이야기도 있었지만 그냥 접었음. 마녀사냥에 목을 내밀고 싶지 않았음
    예전에는 블록체인에도 꽤 관여했는데 비슷한 과정을 거쳤음. 대부분은 무시하다가 전력 사용량 관련 논문이 나온 뒤 갑자기 관련된 것만으로도 터무니없는 도덕적 범죄가 됐음. 하지만 시간이 지나 전력 사용량 주장이 대체로 별일 아닌 것으로 드러나자 혐오 행렬도 사그라졌음
    AI 사용자를 막는다는 의미에서는 “싸움에서 질” 것 같지 않음. 작은 커뮤니티가 구성원을 선별하는 것도 언제나 괜찮음. 다만 이런 인위적 분노를 몇 년 넘게 유지하기는 어렵다고 봄
    AI 데이터센터의 물·전력 주장은 런던 말똥 위기처럼 스스로 해결될 문제로 보이고, 저작권 문제도 어느 정도 정리될 것임. 결국에는 저품질 스패머를 제외하면 굳이 금지할 만큼 신경 쓰지 않게 될 것 같음. 물론 저품질 스패머는 엄청 많음

• 온라인 커뮤니티에서 LLM 때문에 균형이 완전히 무너졌음. 사람들은 비슷한 생각을 가진 사람들과의 진짜 인간적 상호작용을 원하고, 진정성 있는 온라인 경험을 제공하는 방법을 찾는 쪽이 성공할 것임
  작은 커뮤니티가 돌아와야 할지도 모름. 신뢰를 천천히 쌓는 곳 말임. 왜 모든 사이트가 IPO를 위해 1억 사용자를 만들려는 괴물이 되어야 하는가. 그런 구조가 최악을 끌어들임
  Reddit에서는 여기와 같은 사용자명으로 수년간 활동했지만, 이제는 거의 버렸음

  • 사람들이 그걸 차이를 만들 만큼 간절히 원한다고 보진 않음. AI 저품질 글 이전에도 Reddit은 실제 인간과 상호작용하고 친구가 될 수 있다는 느낌을 줄이는 변화를 계속해왔음
    UI는 사용자명을 덜 드러내고, 서브레딧마다 고유한 공동체 분위기를 만들던 사이드바를 숨겼음. 요즘 댓글 스레드에서는 Reddit이 다른 사용자들의 글 상당수를 숨기기도 해서, 글쓴이가 허공에 말하고 있을 수도 있다고 들었음
    실제 상호작용의 감각은 구식 포럼에서 더 잘 느껴짐. 아바타와 개인화 요소 덕분에 누가 누구인지 천천히 익히기 쉽고, 긴 글 문화가 있어 다른 사람의 성격도 느낄 수 있음
    하지만 살아남은 그런 포럼에 35세나 40세 미만이 얼마나 들어오고 있을까? 선택권을 주면 사람들은 결국 참여 극대화 상업 플랫폼의 도파민 보상과, 미묘함을 죽이는 스마트폰 중심 인터넷을 더 선호하는 것으로 드러남

• 봇이 쓴 댓글과 실제와 구별할 수 없는 AI 미디어가 늘어나면, 인간이 소셜 네트워크를 떠나게 될 수도 있어서 오히려 좋을지도 모름
  소셜 네트워크는 인간을 서로 갈라놓는 데 기여했음. 다시 현실 세계로 돌아가면 우리가 보는 것을 진짜로 믿을 수 있고, 다른 인간의 말투와 표정과 냄새를 즐길 수 있음

  • 문제는 우리 중 많은 사람이 틈새 관심사를 갖고 있고, 가까운 곳에는 이야기할 사람이 없거나 괴짜 취급을 받는다는 점임
    어릴 때부터 지도와 지리를 좋아했고 지금도 그렇지만, 현실에서 나만큼 좋아하는 사람은 만나본 적 없음. 인터넷에는 그걸 이야기하고, 흥미로운 글과 사진을 공유하는 곳들이 있음
  • 순진한 생각으로 보임. 사람들이 AI가 들끓는 소셜 네트워크를 “즐기고” 있거나, 적어도 떠날 만큼 짜증나지 않는 한 계속 머물 것이고 현실과 더 멀어질 것임
    EU 청소년의 절반이 챗봇과 정기적으로 대화하고 있음. 소외된 사람들은 그런 곳으로 몰려감
  • 몇몇 기술 회사가 엄청난 수의 사람들을 정신건강에 나쁜 유해 소셜 미디어 콘텐츠에 중독시켰고, 그 덕분에 소수는 큰 부자가 됐음
    같은 기업과 경영진이 더 강력한 콘텐츠 도구를 손에 넣고 그냥 짐 싸서 집에 갈 거라고 보진 않음. LLM은 Facebook과 Twitter가 건전한 커뮤니티처럼 보이게 만들 정도의 스키너 상자를 만드는 데 쓰일 것임
  • 온라인에서 사귄 친구도 많고, 원래 알던 친구들이 서로 멀리 이사 간 경우도 많음
    가까이 사는 사람들하고만 친구가 될 수 있도록 제한되고 싶지 않음
  • 진짜와 더는 구별할 수 없다면, 왜 사람들이 떠나게 될까?

• 내가 일하는 회사는 커뮤니티 성격이 깊게 뿌리내린 곳이고, 빅테크가 뭘 하든 우리 커뮤니티 기능은 사용자 이익만을 위한 것이라고 100% 확신함. 회색지대 없이 그냥 그렇음
  AI 저품질화 이후 봇 때문에 상당한 트래픽을 잃었음. 더 나쁜 건 다른 사람들에게 다시 기여하던 사용자들을 잃었다는 점임
  커뮤니티 데이터를 구성원에게 노출하는 여러 방법을 활용할 수 있어서 그 부분에서만 손해를 보는 건 아니지만, 플랫폼 주변 커뮤니티가 사람들에게 좋았다는 약 30년치 좋은 피드백이 있는데 이제 모든 게 위험해졌음
  내 일은 결국 일이긴 함. 프리미엄 기능도 있고 여러 요소가 있음. 하지만 무료로 얻을 수 있는 가치가 이 플랫폼의 유명한 부분이고, 많은 사람이 수년간 무료로 쓰다가 필요하거나 여유가 생기면 구독하고 대부분 오래 머문다는 것도 알고 있음
  사람들이 그런 연결을 잃어가는 사실이 우울함

  • 저품질 콘텐츠와 그걸 쓰는 사용자들이 견딜 수 없어서 여러 온라인 커뮤니티를 떠났음
    AI는 나도 씀. 유용하다고 생각함. 하지만 이쪽에 깊이 빠진 사람들은 화면의 모든 텍스트를 사람의 말이 아니라 챗봇처럼 대함
    “새 API로 이 코드 다시 써줘” “네?” “지금 당장 필요한데 해줄 수 있어? ChatGPT는 컴파일이 안 돼!” “코드부터 보여주세요”라고 하자 엄청난 쓰레기 더미를 보냄
    “이걸 왜 이렇게 하기로 했는지 물어봐도 될까요? x, y, z가 걱정되니 여기 있는 걸 다시 쓰는 게 좋겠어요”라고 하면 “AI가 해준 거고 저는 배우는 중이에요. 다시 쓸 필요 없고 이 부분만 써주세요”라고 함
    “사양합니다”라고 하면 다른 누군가가 해주고, 그 사용자는 떠남

• 슬프게도 요구사항은 늘 그렇듯 모두가 착하게 굴고 소음을 줄이라는 식임. 하지만 개인 차원에서도, 전 세계 차원에서도 작동하지 않음
  조용히 지낼 수는 있지만, 친구나 지인이 AI 슬롯머신에 홀려 자기 “작품”을 열정적으로 공유하면 어떻게 할 것인가. 그런 일을 겪었고 처음부터 냉담하고 무례하게 대했지만 통하지 않았음. 그는 계속 여러 산출물을 공유함
  전 세계 차원에서는 커뮤니티가 죽어가고 있음. 세계적 소통은 이제 이익보다 부담이 더 큰 지점에 온 것 같음
  1990년대 말과 2000년대 초, 어쩌면 2010년대 초까지는 더 연결되는 것이 좋은 고객이나 채용으로 이어질 수 있었음. 요즘은 2022년 ChatGPT 3 이전부터 그런 모든 영역이 과밀하고 가격 경쟁에 시달렸고, LLM은 놀랍게도 새로 더한 건 많지 않고 그 흐름을 증폭했을 뿐임

• 1991년부터 Usenet을 썼음. 1995년쯤 인터넷이 일반 대중에게 인기를 얻자 상황이 나빠지기 시작했음. 1990년대 말에는 스팸이 Usenet을 압도해서 일반 토론에 거의 쓸 수 없게 만들었음
  이후 웹사이트 포럼으로 옮겨갔지만, 아직도 Usenet 뉴스리더만큼 좋다고 생각하진 않음. 내가 가장 좋아한 건 slrn이었음
  그다음 Reddit이 등장했고, 많은 온라인 포럼은 사람들이 Reddit으로 옮겨가면서 죽기 시작했음
  오늘 아침에도 Reddit에서 게시글 4개를 AI 저품질 글로 운영자에게 신고했음. 신고 항목은 “disruptive use of bots”로 표시하지만, 분류를 바꿔야 함
  2개는 운영자가 내 판단에 동의했고 약 5시간 뒤 삭제됐음. 다른 2개는 아직 아무 조치도 없음. 이길 수 없는 싸움임
  어떤 글은 “이런 생각을 해봤는데… [길고 두서없는 문단들] 어떻게 생각하세요?” 같은 질문으로 시작함. 1분 읽고, 나머지를 1분 훑다가 인생 2분을 낭비했다는 걸 깨닫고, 다시 30초 들여 운영자에게 신고함
  이런 일이 최근 6개월 사이 폭발적으로 늘었음
  카르마를 모으는 재게시 봇도 많음. 어떤 서브레딧은 30일이나 6개월 안에 같은 내용을 다시 올릴 수 없다는 규칙이 있음. 그런데 어떤 글이 500 추천을 받고 바로 다음 날 봇이 똑같은 걸 다시 올려도 300 추천을 받는 건 정말 우스움. 봇 농장이 추천까지 눌러주는 것 같음

• 이 시점에서는 신원 확인이나 인간성 증명 같은 방식이 작동할 것 같지 않음
  필요한 건 CORS에서 했던 것과 비슷한 클라이언트·서버 협력이라고 봄
  즉 API가 인간 전용임을 표시하고, 실행 환경이 그런 표시를 존중해서 해당 API 호출을 막아야 함
  완벽하진 않음. 클라이언트 쪽 강제라서 이론적으로는 그런 제한이 없는 실행 환경을 직접 만들 수 있음. 그래도 앞으로 갈 수 있는 유일한 길이라고 봄

[GN⁺]

Lobste.rs 의견들

• 다른 제출글에서도 나왔지만, AI가 쓴 README가 정신적으로 가장 크게 피로하게 만드는 것 중 하나임
  프로젝트 자체가 좋아도 AI가 쓴 README는 탭을 닫게 만드는 강한 신호이고, 읽는 것 자체가 고통스러움

  • 몇 년 동안 Lobsters와 HN을 본 뒤 아침 커피 마시며 github.com/trending도 읽었는데, 이 이유 때문에 6개월쯤 전에 그만둠
  • 동의하지만, 프로젝트를 잘 홍보하는 일이 개발자에게는 늘 어려운 부분이기도 함
    LLM 이전에도 스크린샷이나 GIF를 찍고 좋은 README를 만드는 데는 꽤 많은 노력이 들었음

• “예의 바르고”, “정중한” AI 잡탕물 애호가들이 있음
  자기들은 취향과 요령이 있다고 주장하고, 절대 나쁜 잡탕물을 무책임하게 올리지 않으며, 인간이 다듬고 큐레이션한 최고급 잡탕물만 올린다고 함
  올리기 전에 꼼꼼히 검토했으니 사실 잡탕물이 아니라고도 주장함. 이들은 자기들이 말하는 프리미엄 잡탕물과 형편없는 잡탕물 사이에는 중요한 차이가 있으며, 따지고 보면 저품질 인간 제작물도 잡탕물이라고 함
  사람들은 잡탕물을 신중하고 효율적이며 올바르게 써야 하고, 어차피 피할 수 없는 미래라 모두에게 중요하니 계속 배우고 토론해야 한다고 말함
  이들은 물을 흐림. 달래고, 규칙을 꼬치꼬치 따지고, 예외를 만들고, 좋은 잡탕물 활용과 나쁜 활용을 구분하려면 “미묘함”이 중요하다고 함. 나쁜 사례에 집중하는 건 지루하고 무례하다고도 함
  좋은 잡탕물에 대해 예의 바르게 토론하고, 나쁜 잡탕물에 너무 모질게 굴지 말자고 함. 나쁜 잡탕물은 사실 큰 문제도 아니고, 아마 곧 해결될 것이며, 피해도 과장됐다고 함. 그렇게 공간을 점령함
  운영자가 이런 잡탕물 애호가들을 빨리 내쫓지 않으면, 조금 덜 예의 바른 사람들이 조금 덜 예의 바르게 잡탕물을 올리기 시작함
  공간에 참여하는 사람들 중 잡탕물에 호의적인 사람이 점점 늘고, 반대하는 사람들을 눌러버림. 순식간에 커뮤니티는 잡탕물 술집이 됨. 누가 상상이나 했겠나

  • 확인차 묻자면, 글쓴이가 자기 블로그에 이 글을 올린 것 자체가 물을 흐린다고 보는 건가?
    “운영자”를 언급한 걸 보면 Lobsters 운영자가 글쓴이를 차단해야 한다는 뜻인지 궁금함
    이 반응이 글쓴이와 글에 대한 반발이라는 건 99% 확신하지만, 글 자체에 대한 직접 반응인지 일반적 입장인지 구분이 안 됨
    특정 Lobsters 제출글과 연결되는 부분은 이 댓글 스레드에 달렸다는 사실뿐이라, 이 문장을 아무 vibecoding 글 댓글에 그대로 붙여도 수정 없이 통할 것 같음
  • Godwin의 법칙

• 요약하면 AI는 좋고, AI 잡탕물은 나쁘다는 얘기임
  매우 비꼬는 HN식 글쓰기임

  • LLM에 반대하는 건 아님. 컴퓨터가 자연어 이해를 할 수 있게 된 건 놀랍고, 이미 나온 치약을 다시 튜브에 넣을 수도 없다고 봄
    다만 외부효과는 감당해야 함. 암호화폐를 좋아한다면, 열성 사용자 중 일부가 북한의 국가 후원 랜섬웨어 조직이라는 사실을 없던 일로 할 수 없음
    마찬가지로 LLM을 좋아한다면, 왜 이것들이 온라인 생태계를 풍요롭게 하기보다 해치는 데 더 쉽게 쓰이는지 비판적으로 봐야 함
    이 글은 위험할 정도로 “내 사용은 좋고, 네 사용은 나쁘다”에 가까워 보임. 많은 사람이 이런 태도를 취하지만, “좋음”의 정의가 매우 유동적으로 변함
    “AI 생성 음악을 듣지만 음반사도 어차피 아티스트를 착취했으니 괜찮다”, “치과 예약 때문에 늦어서 LLM이 쓴 설계 문서를 안 읽고 보냈다”, “블로그 글의 90%를 LLM이 썼지만 내 프롬프트가 흥미롭고 참신했다” 같은 식임
    원칙 있는 입장의 특징은 남을 판단하게 해주는 게 아니라 자기 자신을 불편하게 만든다는 데 있음. 그래서 글쓴이가 넘고 싶었지만 넘지 않겠다고 정한 선은 어디인가
  • 더 나쁘게는 “케이크를 먹으면서도 그대로 갖고 싶다”는 유형임
    공정하게 말하면, 내가 만나는 LLM 옹호자 대부분이 그렇긴 함
    재미있는 건 이들 대부분이 커리어상 나보다 몇 단계 위라는 점임. 비난하려는 뜻은 아니고, “적어도 침 뱉는 거리보다 멀리 생각할 수는 있겠지”라는 척도로 쓰는 것뿐임
    그런데도 내가 살아온 세계와 같은 세계에 살았던 것 같지가 않음
    사회적 문제에는 기술적 해결책이 없음. 나쁜 행동을 막는 건 처벌과 마찰임. 처벌은 어느 정도 가능하지만 국경을 넘으면 집행이 어렵고, 마찰은 LLM 때문에 사라졌음
    좋은 LLM 사용은 근본적으로 나쁜 LLM 사용과 같고, 다만 단계가 더 붙어 있을 뿐임. 그래서 그 방식으로 0보다 큰 돈을 벌 수 있는 한, 좋은 행동보다 나쁜 행동이 항상 더 많을 수밖에 없음
    지역적 상황에서는 큰 노력으로 바꿀 수 있겠지만, 전 세계적으로 보면 우리는 망했음
  • 이 댓글은 불평하는 대상과 달리 통찰이나 피드백이 놀라울 정도로 없음
    이렇게 낮은 노력의 댓글이 추천받는다는 게 묘함
  • 이 답글은 비꼼 때문에 별로임
    글 자체는 신중하게 쓰였고, 그 입장에 대해 타당한 토론이나 비판은 가능하지만, 이렇게 상자에 넣어버리면 전부 닫아버리는 셈임
    그리고 인간 커뮤니티에 AI가 쓴 블로그 글을 올리는 사람들을 다룰 때는 어느 정도 비꼼도 적절하다고 봄
  • 대체로 맞음. 하지만 내가 아끼는 커뮤니티를 망치지는 말아 달라는 얘기도 있음
    “매우 비꼬는 HN식 글쓰기”가 좋은 뜻인지 아닌지는 모르겠음 :D

• 잡탕물이 https://digg.com 재출시를 몇 달 만에 죽였음
  순식간에 봇들이 과거 도메인의 좋은 SEO 페이지랭크를 이용해 스팸을 퍼부었고, 그 싸움은 이길 수가 없었음

  • 응? Digg는 아직 다시 열린 것도 아니지 않나?

• “AI 결과물을 너무 쉽게 공유하고 있고, 그건 끔찍하고 나쁘다! 내가 공유할 법한 AI 결과물을, 내가 공유할 때만 공유해야 한다. 그러면 전부 훌륭할 것이다.”
  이런 톤의 글이 다른 사람들을 유치하다고 비난하는 게 웃김
  왜 이게 Lobsters에 올라왔는지도 모르겠음

• 우리 쪽은 큐레이션되고 꼼꼼히 검토된 AI 보조 생산성이고, 그쪽은 부주의하고 대충 생성된 마이너스 가치의 AI 잡탕물임

• AI로 좋은 경험을 하고 있음. 여기서는 긍정적인 예를 제공하려고 글쓴이의 질문에 직접 답해봄
  “그래도 널리 공유하고 싶은가?” 널리까지는 아니지만, 관련이 있으면 가끔 내 프로젝트를 올림. 예를 들어 누군가 AI를 샌드박스화하는 방법을 직접 물어본 뒤에 virtdev 프로젝트를 여기 공유했음
  “실제로 유용한가?” 엄청나게 유용함
  “직접 쓰고 있는가?” 문자 그대로 매일 씀
  “문서가 정말 좋은가?” “좋다”의 기준에 따라 다름. 내가 직접 문서화할 만큼 신경 쓰지 않는 프로젝트의 문서는 AI가 씀. 없는 것보다는 낫다고 봄. 애초에 Claude가 아니었다면 그런 것들은 존재하지도 않았을 것임
  “쓸 수 있는가?” 당연함
  “코드를 반복해서 다시 보고 충분히 굴려봤는가?” 그렇다. 내 소프트웨어를 직접 쓰고, 마주치는 문제를 정기적으로 고침. Claude를 켜서 코드베이스 전체를 코드 리뷰하라고 시키기도 함
  “Claude와 하룻밤을 보내고 다음 날 아침 둘 다 좋은 생각이 아니었다고 느낀 건 아닌가?” 아님
  “소프트웨어라면 사람들이 이슈를 올리고 PR을 보낼 대상이라고 책임질 준비가 되어 있는가?” 그렇다
  “글이라면 본인이 읽고 싶은 것인가?” 상황에 따라 다름. 내 글은 직접 씀. 여기서는 교정 이상으로 복잡한 작업에는 Claude를 쓰지 않음
  아이러니하게도 여기서는 Claude를 썼다면 더 나은 결과가 나왔을 것 같음. 내가 원하는 방향으로 최적화한 결과는 엇갈렸음
  가비지 컬렉션에 대해 쓴 글은 읽을 때마다 웃음이 나지만, HN 사람들은 나에게 문제가 있다고 했음. 틀린 말도 아님. Bob Nystrom이 좋아한 것 같다는 게 유일한 위안임
  “커뮤니티의 누적 이해에 실제로 보탬이 되는가, 아니면 내가 쓰기 귀찮고 당신이 읽기 귀찮은 텍스트를 LLM이 자동완성하는 것뿐인가?” 모르겠음. 나는 나를 위해 함. 커뮤니티에 유용한지는 커뮤니티가 결정할 일임