Reddit에서 에이전트로 카르마 파밍과 은밀한 광고 실험을 해본 뒤로 거의 손절했고 더는 방문하지 않음
그 에이전트가 쓴 글들을 읽어보니, 독자 입장에서는 컴퓨터가 쓴 글이라는 걸 전혀 알 수 없겠다고 느꼈고, 많은 사람들 또는 다른 봇들이 그와 제대로 대화를 나누는 걸 보고 조금 무서워졌음
Hacker News는 아직 그 정도까지는 아니지만, 여기에도 많은 “사용자”가 LLM이라는 건 사실로 알고 있음. 온라인 커뮤니티는 확실히 죽어가고 있고, 이 흐름 속에서 현실 커뮤니티가 다시 살아나길 바람
한동안 Reddit에서 ChatGPT로 분노 유발 글을 만들어 올린 뒤, 나중에 가짜였고 ChatGPT가 썼다고 수정하는 실험성 글이 많았음
아마 AI 이야기에 반응한 사람들을 바보처럼 느끼게 만들어 교훈을 주려 했던 것 같은데, 대부분은 믿기 어려울 정도로 가짜 티가 났음. 그래도 상관없었고, 가짜라고 인정한 뒤에도 글은 계속 인기 있었고 댓글도 계속 달렸음
조언 서브레딧에서는 여전히 상황에 대한 조언이 이어졌고, 어떤 댓글은 가짜라는 공지를 봤지만 그래도 논쟁을 계속하겠다고 했음
Reddit의 특징은 분명함. 글의 진실성은 중요하지 않고, 인기 서브레딧의 적극적인 댓글층은 그저 토론할 거리와 대개 화낼 거리를 원함. 돌이켜보면 AI 전에도 오보성 글이 수년간 카르마 파밍에 가장 쉬웠으니 당연한 일임
신원 증명이나 신뢰망 기반 보증이 없으면 공개 채팅 커뮤니티는 사실상 죽을 것 같음. 아니면 뉴스 사이트 댓글란보다 조금 나은 정도, 활발하지만 가치 없는 공간이 될 듯함
지금도 잘 굴러가는 온라인 커뮤니티들에 여럿 참여하고 있지만, 차이는 시간이 쌓인 지속적 관계와 여러 플랫폼을 넘나드는 참여가 있다는 점임
이 시계도 언젠가는 끝나겠지만, 텍스트 채팅, 음성·영상 통화, 온라인 게임, 현실 활동으로 이어진 관계망이 섞여 있으면 사용자를 가짜로 꾸미기가 아직은 더 어려움
그래도 쉬운 익명 온라인 연결의 황금기는 끝났다는 데 동의함
온라인 커뮤니티가 죽고 현실 커뮤니티가 되살아날 수 있다는 흐름을 지켜보는 건 꽤 흥미로울 듯함
인터넷 이전에 자라서 외부 커뮤니티를 찾는 법은 역사적으로 알고 있지만, 고등학교 초반부터 온라인 생활에 깊이 들어가서 현실의 클럽이나 무리를 새로 찾는 감각은 많이 녹슬었음
다행히 친구도 많고 자주 밖에 나가지만, 인터넷 없는 삶을 겪어본 적 없는 젊은 세대가 어떻게 찾아갈지는 행운을 빌면서도 그 여정을 보고 싶음
Reddit은 내게 거의 죽은 서비스임. 인기 서브레딧은 봇 천지이고, 틈새 서브레딧은 비어 있음. 게임 서브레딧에서도 답글 하나 받기 힘듦
Reddit을 망친 사람이 누구인지 스스로 돌아본 적은 있음?
인터넷의 저품질화는 이미 수년째 진행 중인데, 솔직히 진짜 해결책이 어떤 모습일지는 모르겠음
대부분은 신원 확인 절차를 거치거나, 커뮤니티 가입에 돈을 내거나, 초대 전용 공간에 들어가는 걸 원하지 않음. 초대 전용 공간은 생각의 다양성을 꽤 빨리 잃을 가능성도 큼
그래도 봇 문제는 더 견디기 어려워질 테니, 그중 하나가 그나마 덜 나쁜 선택일지도 모름. 덧붙여 글쓴이의 문체는 정말 마음에 들었음
틈새 창작 커뮤니티를 운영하고 있고, 2022년에 AI 생성 콘텐츠 금지를 도입했음. 커뮤니티를 얼마나 부식시킬지 쉽게 보였기 때문임
쉽지는 않았음. 매일 가짜 AI 계정을 차단하고, 매달 AI 콘텐츠 제작자 계정 약 600개를 쳐냄
AI 콘텐츠가 등장하기 전에는 필요 없던 추가 작업이고, 당연히 비용도 더 듦. 이 싸움에서 질까 두려움
계정 생성에 1달러나 5달러를 받으면 어떨까? 그런 방식이면 물밀듯 들어오는 걸 꽤 쉽게 막을 수 있을 것 같음
많은 커뮤니티와 달리 최소한 처음부터 올바른 쪽에 섰음. 천천히 깨닫고 나서야 금지했어야 했다고 후회하는 것보다, 처음부터 전면 금지하는 편이 나음
한때 작은 틈새 창작 글쓰기 커뮤니티에 있었음. 2021~2022년쯤이었고, AI 때문에 간 건 아니었지만 사람들이 궁금해해서 잡담 게시판에서 여러 LLM을 시연했음
작동 방식을 설명했는데도 거의 모두가 적어도 관심은 보였음. 한 작가는 자신도 좋아하는 작가들의 글을 손으로 한 글자씩 베끼며 문체를 익혔기 때문에 비슷하게 작업한다고 말했음. 당시 주된 걱정은 기술적으로 쓰기 어렵다는 점이었음
나는 배우러 온 사람이고 LLM 파생 콘텐츠를 출판하려 하지 않을 거라고 자주 말했음. 그런데 2022년 말쯤 스위치가 켜진 것처럼 거의 모두가 AI와 그 사용자들을 명백히 악하다고 말하기 시작했고, 내 이름을 직접 말하진 않았지만 나와의 교류를 멈췄음
점점 강한 반AI 성향의 Twitter 콘텐츠를 다시 올리고, 여러 출판물에 들어온 AI 제출물을 비난했음. 결국 누군가 LLM 사용자는 죽어야 한다는 트윗을 다시 올렸고, 반대는 하나도 없었으며 오히려 격려가 많았음
그래서 그냥 떠났음. 나는 긍정적으로만 참여했고, 궁금해하는 사람들에게 답하고 도우려 했음. AI 보조 이야기를 하나 올린 적은 있지만, 편집기에서 내 기여와 AI 기여가 자동으로 어떻게 추적되는지 보여주기 위한 기술 시연이었고, 내가 쓴 부분도 명확히 표시했음
나중에 제출 규칙에는 AI 작성 콘텐츠로 판단되면 그 사람을 커뮤니티 전체 제출에서 블랙리스트에 올린다는 조항이 추가됐음. LLM과 AI 탐지기의 무용함을 시연했던 입장에서, 내가 조금이라도 모습을 드러내면 그들이 나를 블랙리스트에 올릴 명분을 만들 수 있겠다고 보였음
제출하려고 직접 쓰던 이야기도 있었지만 그냥 접었음. 마녀사냥에 목을 내밀고 싶지 않았음
예전에는 블록체인에도 꽤 관여했는데 비슷한 과정을 거쳤음. 대부분은 무시하다가 전력 사용량 관련 논문이 나온 뒤 갑자기 관련된 것만으로도 터무니없는 도덕적 범죄가 됐음. 하지만 시간이 지나 전력 사용량 주장이 대체로 별일 아닌 것으로 드러나자 혐오 행렬도 사그라졌음
AI 사용자를 막는다는 의미에서는 “싸움에서 질” 것 같지 않음. 작은 커뮤니티가 구성원을 선별하는 것도 언제나 괜찮음. 다만 이런 인위적 분노를 몇 년 넘게 유지하기는 어렵다고 봄
AI 데이터센터의 물·전력 주장은 런던 말똥 위기처럼 스스로 해결될 문제로 보이고, 저작권 문제도 어느 정도 정리될 것임. 결국에는 저품질 스패머를 제외하면 굳이 금지할 만큼 신경 쓰지 않게 될 것 같음. 물론 저품질 스패머는 엄청 많음
온라인 커뮤니티에서 LLM 때문에 균형이 완전히 무너졌음. 사람들은 비슷한 생각을 가진 사람들과의 진짜 인간적 상호작용을 원하고, 진정성 있는 온라인 경험을 제공하는 방법을 찾는 쪽이 성공할 것임
작은 커뮤니티가 돌아와야 할지도 모름. 신뢰를 천천히 쌓는 곳 말임. 왜 모든 사이트가 IPO를 위해 1억 사용자를 만들려는 괴물이 되어야 하는가. 그런 구조가 최악을 끌어들임
Reddit에서는 여기와 같은 사용자명으로 수년간 활동했지만, 이제는 거의 버렸음
사람들이 그걸 차이를 만들 만큼 간절히 원한다고 보진 않음. AI 저품질 글 이전에도 Reddit은 실제 인간과 상호작용하고 친구가 될 수 있다는 느낌을 줄이는 변화를 계속해왔음
UI는 사용자명을 덜 드러내고, 서브레딧마다 고유한 공동체 분위기를 만들던 사이드바를 숨겼음. 요즘 댓글 스레드에서는 Reddit이 다른 사용자들의 글 상당수를 숨기기도 해서, 글쓴이가 허공에 말하고 있을 수도 있다고 들었음
실제 상호작용의 감각은 구식 포럼에서 더 잘 느껴짐. 아바타와 개인화 요소 덕분에 누가 누구인지 천천히 익히기 쉽고, 긴 글 문화가 있어 다른 사람의 성격도 느낄 수 있음
하지만 살아남은 그런 포럼에 35세나 40세 미만이 얼마나 들어오고 있을까? 선택권을 주면 사람들은 결국 참여 극대화 상업 플랫폼의 도파민 보상과, 미묘함을 죽이는 스마트폰 중심 인터넷을 더 선호하는 것으로 드러남
봇이 쓴 댓글과 실제와 구별할 수 없는 AI 미디어가 늘어나면, 인간이 소셜 네트워크를 떠나게 될 수도 있어서 오히려 좋을지도 모름
소셜 네트워크는 인간을 서로 갈라놓는 데 기여했음. 다시 현실 세계로 돌아가면 우리가 보는 것을 진짜로 믿을 수 있고, 다른 인간의 말투와 표정과 냄새를 즐길 수 있음
문제는 우리 중 많은 사람이 틈새 관심사를 갖고 있고, 가까운 곳에는 이야기할 사람이 없거나 괴짜 취급을 받는다는 점임
어릴 때부터 지도와 지리를 좋아했고 지금도 그렇지만, 현실에서 나만큼 좋아하는 사람은 만나본 적 없음. 인터넷에는 그걸 이야기하고, 흥미로운 글과 사진을 공유하는 곳들이 있음
순진한 생각으로 보임. 사람들이 AI가 들끓는 소셜 네트워크를 “즐기고” 있거나, 적어도 떠날 만큼 짜증나지 않는 한 계속 머물 것이고 현실과 더 멀어질 것임
EU 청소년의 절반이 챗봇과 정기적으로 대화하고 있음. 소외된 사람들은 그런 곳으로 몰려감
몇몇 기술 회사가 엄청난 수의 사람들을 정신건강에 나쁜 유해 소셜 미디어 콘텐츠에 중독시켰고, 그 덕분에 소수는 큰 부자가 됐음
같은 기업과 경영진이 더 강력한 콘텐츠 도구를 손에 넣고 그냥 짐 싸서 집에 갈 거라고 보진 않음. LLM은 Facebook과 Twitter가 건전한 커뮤니티처럼 보이게 만들 정도의 스키너 상자를 만드는 데 쓰일 것임
온라인에서 사귄 친구도 많고, 원래 알던 친구들이 서로 멀리 이사 간 경우도 많음
가까이 사는 사람들하고만 친구가 될 수 있도록 제한되고 싶지 않음
진짜와 더는 구별할 수 없다면, 왜 사람들이 떠나게 될까?
내가 일하는 회사는 커뮤니티 성격이 깊게 뿌리내린 곳이고, 빅테크가 뭘 하든 우리 커뮤니티 기능은 사용자 이익만을 위한 것이라고 100% 확신함. 회색지대 없이 그냥 그렇음
AI 저품질화 이후 봇 때문에 상당한 트래픽을 잃었음. 더 나쁜 건 다른 사람들에게 다시 기여하던 사용자들을 잃었다는 점임
커뮤니티 데이터를 구성원에게 노출하는 여러 방법을 활용할 수 있어서 그 부분에서만 손해를 보는 건 아니지만, 플랫폼 주변 커뮤니티가 사람들에게 좋았다는 약 30년치 좋은 피드백이 있는데 이제 모든 게 위험해졌음
내 일은 결국 일이긴 함. 프리미엄 기능도 있고 여러 요소가 있음. 하지만 무료로 얻을 수 있는 가치가 이 플랫폼의 유명한 부분이고, 많은 사람이 수년간 무료로 쓰다가 필요하거나 여유가 생기면 구독하고 대부분 오래 머문다는 것도 알고 있음
사람들이 그런 연결을 잃어가는 사실이 우울함
저품질 콘텐츠와 그걸 쓰는 사용자들이 견딜 수 없어서 여러 온라인 커뮤니티를 떠났음
AI는 나도 씀. 유용하다고 생각함. 하지만 이쪽에 깊이 빠진 사람들은 화면의 모든 텍스트를 사람의 말이 아니라 챗봇처럼 대함
“새 API로 이 코드 다시 써줘” “네?” “지금 당장 필요한데 해줄 수 있어? ChatGPT는 컴파일이 안 돼!” “코드부터 보여주세요”라고 하자 엄청난 쓰레기 더미를 보냄
“이걸 왜 이렇게 하기로 했는지 물어봐도 될까요? x, y, z가 걱정되니 여기 있는 걸 다시 쓰는 게 좋겠어요”라고 하면 “AI가 해준 거고 저는 배우는 중이에요. 다시 쓸 필요 없고 이 부분만 써주세요”라고 함
“사양합니다”라고 하면 다른 누군가가 해주고, 그 사용자는 떠남
슬프게도 요구사항은 늘 그렇듯 모두가 착하게 굴고 소음을 줄이라는 식임. 하지만 개인 차원에서도, 전 세계 차원에서도 작동하지 않음
조용히 지낼 수는 있지만, 친구나 지인이 AI 슬롯머신에 홀려 자기 “작품”을 열정적으로 공유하면 어떻게 할 것인가. 그런 일을 겪었고 처음부터 냉담하고 무례하게 대했지만 통하지 않았음. 그는 계속 여러 산출물을 공유함
전 세계 차원에서는 커뮤니티가 죽어가고 있음. 세계적 소통은 이제 이익보다 부담이 더 큰 지점에 온 것 같음
1990년대 말과 2000년대 초, 어쩌면 2010년대 초까지는 더 연결되는 것이 좋은 고객이나 채용으로 이어질 수 있었음. 요즘은 2022년 ChatGPT 3 이전부터 그런 모든 영역이 과밀하고 가격 경쟁에 시달렸고, LLM은 놀랍게도 새로 더한 건 많지 않고 그 흐름을 증폭했을 뿐임
1991년부터 Usenet을 썼음. 1995년쯤 인터넷이 일반 대중에게 인기를 얻자 상황이 나빠지기 시작했음. 1990년대 말에는 스팸이 Usenet을 압도해서 일반 토론에 거의 쓸 수 없게 만들었음
이후 웹사이트 포럼으로 옮겨갔지만, 아직도 Usenet 뉴스리더만큼 좋다고 생각하진 않음. 내가 가장 좋아한 건 slrn이었음
그다음 Reddit이 등장했고, 많은 온라인 포럼은 사람들이 Reddit으로 옮겨가면서 죽기 시작했음
오늘 아침에도 Reddit에서 게시글 4개를 AI 저품질 글로 운영자에게 신고했음. 신고 항목은 “disruptive use of bots”로 표시하지만, 분류를 바꿔야 함
2개는 운영자가 내 판단에 동의했고 약 5시간 뒤 삭제됐음. 다른 2개는 아직 아무 조치도 없음. 이길 수 없는 싸움임
어떤 글은 “이런 생각을 해봤는데… [길고 두서없는 문단들] 어떻게 생각하세요?” 같은 질문으로 시작함. 1분 읽고, 나머지를 1분 훑다가 인생 2분을 낭비했다는 걸 깨닫고, 다시 30초 들여 운영자에게 신고함
이런 일이 최근 6개월 사이 폭발적으로 늘었음
카르마를 모으는 재게시 봇도 많음. 어떤 서브레딧은 30일이나 6개월 안에 같은 내용을 다시 올릴 수 없다는 규칙이 있음. 그런데 어떤 글이 500 추천을 받고 바로 다음 날 봇이 똑같은 걸 다시 올려도 300 추천을 받는 건 정말 우스움. 봇 농장이 추천까지 눌러주는 것 같음
이 시점에서는 신원 확인이나 인간성 증명 같은 방식이 작동할 것 같지 않음
필요한 건 CORS에서 했던 것과 비슷한 클라이언트·서버 협력이라고 봄
즉 API가 인간 전용임을 표시하고, 실행 환경이 그런 표시를 존중해서 해당 API 호출을 막아야 함
완벽하진 않음. 클라이언트 쪽 강제라서 이론적으로는 그런 제한이 없는 실행 환경을 직접 만들 수 있음. 그래도 앞으로 갈 수 있는 유일한 길이라고 봄
Hacker News 의견들
Reddit에서 에이전트로 카르마 파밍과 은밀한 광고 실험을 해본 뒤로 거의 손절했고 더는 방문하지 않음
그 에이전트가 쓴 글들을 읽어보니, 독자 입장에서는 컴퓨터가 쓴 글이라는 걸 전혀 알 수 없겠다고 느꼈고, 많은 사람들 또는 다른 봇들이 그와 제대로 대화를 나누는 걸 보고 조금 무서워졌음
Hacker News는 아직 그 정도까지는 아니지만, 여기에도 많은 “사용자”가 LLM이라는 건 사실로 알고 있음. 온라인 커뮤니티는 확실히 죽어가고 있고, 이 흐름 속에서 현실 커뮤니티가 다시 살아나길 바람
아마 AI 이야기에 반응한 사람들을 바보처럼 느끼게 만들어 교훈을 주려 했던 것 같은데, 대부분은 믿기 어려울 정도로 가짜 티가 났음. 그래도 상관없었고, 가짜라고 인정한 뒤에도 글은 계속 인기 있었고 댓글도 계속 달렸음
조언 서브레딧에서는 여전히 상황에 대한 조언이 이어졌고, 어떤 댓글은 가짜라는 공지를 봤지만 그래도 논쟁을 계속하겠다고 했음
Reddit의 특징은 분명함. 글의 진실성은 중요하지 않고, 인기 서브레딧의 적극적인 댓글층은 그저 토론할 거리와 대개 화낼 거리를 원함. 돌이켜보면 AI 전에도 오보성 글이 수년간 카르마 파밍에 가장 쉬웠으니 당연한 일임
지금도 잘 굴러가는 온라인 커뮤니티들에 여럿 참여하고 있지만, 차이는 시간이 쌓인 지속적 관계와 여러 플랫폼을 넘나드는 참여가 있다는 점임
이 시계도 언젠가는 끝나겠지만, 텍스트 채팅, 음성·영상 통화, 온라인 게임, 현실 활동으로 이어진 관계망이 섞여 있으면 사용자를 가짜로 꾸미기가 아직은 더 어려움
그래도 쉬운 익명 온라인 연결의 황금기는 끝났다는 데 동의함
인터넷 이전에 자라서 외부 커뮤니티를 찾는 법은 역사적으로 알고 있지만, 고등학교 초반부터 온라인 생활에 깊이 들어가서 현실의 클럽이나 무리를 새로 찾는 감각은 많이 녹슬었음
다행히 친구도 많고 자주 밖에 나가지만, 인터넷 없는 삶을 겪어본 적 없는 젊은 세대가 어떻게 찾아갈지는 행운을 빌면서도 그 여정을 보고 싶음
인터넷의 저품질화는 이미 수년째 진행 중인데, 솔직히 진짜 해결책이 어떤 모습일지는 모르겠음
대부분은 신원 확인 절차를 거치거나, 커뮤니티 가입에 돈을 내거나, 초대 전용 공간에 들어가는 걸 원하지 않음. 초대 전용 공간은 생각의 다양성을 꽤 빨리 잃을 가능성도 큼
그래도 봇 문제는 더 견디기 어려워질 테니, 그중 하나가 그나마 덜 나쁜 선택일지도 모름. 덧붙여 글쓴이의 문체는 정말 마음에 들었음
틈새 창작 커뮤니티를 운영하고 있고, 2022년에 AI 생성 콘텐츠 금지를 도입했음. 커뮤니티를 얼마나 부식시킬지 쉽게 보였기 때문임
쉽지는 않았음. 매일 가짜 AI 계정을 차단하고, 매달 AI 콘텐츠 제작자 계정 약 600개를 쳐냄
AI 콘텐츠가 등장하기 전에는 필요 없던 추가 작업이고, 당연히 비용도 더 듦. 이 싸움에서 질까 두려움
작동 방식을 설명했는데도 거의 모두가 적어도 관심은 보였음. 한 작가는 자신도 좋아하는 작가들의 글을 손으로 한 글자씩 베끼며 문체를 익혔기 때문에 비슷하게 작업한다고 말했음. 당시 주된 걱정은 기술적으로 쓰기 어렵다는 점이었음
나는 배우러 온 사람이고 LLM 파생 콘텐츠를 출판하려 하지 않을 거라고 자주 말했음. 그런데 2022년 말쯤 스위치가 켜진 것처럼 거의 모두가 AI와 그 사용자들을 명백히 악하다고 말하기 시작했고, 내 이름을 직접 말하진 않았지만 나와의 교류를 멈췄음
점점 강한 반AI 성향의 Twitter 콘텐츠를 다시 올리고, 여러 출판물에 들어온 AI 제출물을 비난했음. 결국 누군가 LLM 사용자는 죽어야 한다는 트윗을 다시 올렸고, 반대는 하나도 없었으며 오히려 격려가 많았음
그래서 그냥 떠났음. 나는 긍정적으로만 참여했고, 궁금해하는 사람들에게 답하고 도우려 했음. AI 보조 이야기를 하나 올린 적은 있지만, 편집기에서 내 기여와 AI 기여가 자동으로 어떻게 추적되는지 보여주기 위한 기술 시연이었고, 내가 쓴 부분도 명확히 표시했음
나중에 제출 규칙에는 AI 작성 콘텐츠로 판단되면 그 사람을 커뮤니티 전체 제출에서 블랙리스트에 올린다는 조항이 추가됐음. LLM과 AI 탐지기의 무용함을 시연했던 입장에서, 내가 조금이라도 모습을 드러내면 그들이 나를 블랙리스트에 올릴 명분을 만들 수 있겠다고 보였음
제출하려고 직접 쓰던 이야기도 있었지만 그냥 접었음. 마녀사냥에 목을 내밀고 싶지 않았음
예전에는 블록체인에도 꽤 관여했는데 비슷한 과정을 거쳤음. 대부분은 무시하다가 전력 사용량 관련 논문이 나온 뒤 갑자기 관련된 것만으로도 터무니없는 도덕적 범죄가 됐음. 하지만 시간이 지나 전력 사용량 주장이 대체로 별일 아닌 것으로 드러나자 혐오 행렬도 사그라졌음
AI 사용자를 막는다는 의미에서는 “싸움에서 질” 것 같지 않음. 작은 커뮤니티가 구성원을 선별하는 것도 언제나 괜찮음. 다만 이런 인위적 분노를 몇 년 넘게 유지하기는 어렵다고 봄
AI 데이터센터의 물·전력 주장은 런던 말똥 위기처럼 스스로 해결될 문제로 보이고, 저작권 문제도 어느 정도 정리될 것임. 결국에는 저품질 스패머를 제외하면 굳이 금지할 만큼 신경 쓰지 않게 될 것 같음. 물론 저품질 스패머는 엄청 많음
온라인 커뮤니티에서 LLM 때문에 균형이 완전히 무너졌음. 사람들은 비슷한 생각을 가진 사람들과의 진짜 인간적 상호작용을 원하고, 진정성 있는 온라인 경험을 제공하는 방법을 찾는 쪽이 성공할 것임
작은 커뮤니티가 돌아와야 할지도 모름. 신뢰를 천천히 쌓는 곳 말임. 왜 모든 사이트가 IPO를 위해 1억 사용자를 만들려는 괴물이 되어야 하는가. 그런 구조가 최악을 끌어들임
Reddit에서는 여기와 같은 사용자명으로 수년간 활동했지만, 이제는 거의 버렸음
UI는 사용자명을 덜 드러내고, 서브레딧마다 고유한 공동체 분위기를 만들던 사이드바를 숨겼음. 요즘 댓글 스레드에서는 Reddit이 다른 사용자들의 글 상당수를 숨기기도 해서, 글쓴이가 허공에 말하고 있을 수도 있다고 들었음
실제 상호작용의 감각은 구식 포럼에서 더 잘 느껴짐. 아바타와 개인화 요소 덕분에 누가 누구인지 천천히 익히기 쉽고, 긴 글 문화가 있어 다른 사람의 성격도 느낄 수 있음
하지만 살아남은 그런 포럼에 35세나 40세 미만이 얼마나 들어오고 있을까? 선택권을 주면 사람들은 결국 참여 극대화 상업 플랫폼의 도파민 보상과, 미묘함을 죽이는 스마트폰 중심 인터넷을 더 선호하는 것으로 드러남
봇이 쓴 댓글과 실제와 구별할 수 없는 AI 미디어가 늘어나면, 인간이 소셜 네트워크를 떠나게 될 수도 있어서 오히려 좋을지도 모름
소셜 네트워크는 인간을 서로 갈라놓는 데 기여했음. 다시 현실 세계로 돌아가면 우리가 보는 것을 진짜로 믿을 수 있고, 다른 인간의 말투와 표정과 냄새를 즐길 수 있음
어릴 때부터 지도와 지리를 좋아했고 지금도 그렇지만, 현실에서 나만큼 좋아하는 사람은 만나본 적 없음. 인터넷에는 그걸 이야기하고, 흥미로운 글과 사진을 공유하는 곳들이 있음
EU 청소년의 절반이 챗봇과 정기적으로 대화하고 있음. 소외된 사람들은 그런 곳으로 몰려감
같은 기업과 경영진이 더 강력한 콘텐츠 도구를 손에 넣고 그냥 짐 싸서 집에 갈 거라고 보진 않음. LLM은 Facebook과 Twitter가 건전한 커뮤니티처럼 보이게 만들 정도의 스키너 상자를 만드는 데 쓰일 것임
가까이 사는 사람들하고만 친구가 될 수 있도록 제한되고 싶지 않음
내가 일하는 회사는 커뮤니티 성격이 깊게 뿌리내린 곳이고, 빅테크가 뭘 하든 우리 커뮤니티 기능은 사용자 이익만을 위한 것이라고 100% 확신함. 회색지대 없이 그냥 그렇음
AI 저품질화 이후 봇 때문에 상당한 트래픽을 잃었음. 더 나쁜 건 다른 사람들에게 다시 기여하던 사용자들을 잃었다는 점임
커뮤니티 데이터를 구성원에게 노출하는 여러 방법을 활용할 수 있어서 그 부분에서만 손해를 보는 건 아니지만, 플랫폼 주변 커뮤니티가 사람들에게 좋았다는 약 30년치 좋은 피드백이 있는데 이제 모든 게 위험해졌음
내 일은 결국 일이긴 함. 프리미엄 기능도 있고 여러 요소가 있음. 하지만 무료로 얻을 수 있는 가치가 이 플랫폼의 유명한 부분이고, 많은 사람이 수년간 무료로 쓰다가 필요하거나 여유가 생기면 구독하고 대부분 오래 머문다는 것도 알고 있음
사람들이 그런 연결을 잃어가는 사실이 우울함
AI는 나도 씀. 유용하다고 생각함. 하지만 이쪽에 깊이 빠진 사람들은 화면의 모든 텍스트를 사람의 말이 아니라 챗봇처럼 대함
“새 API로 이 코드 다시 써줘” “네?” “지금 당장 필요한데 해줄 수 있어? ChatGPT는 컴파일이 안 돼!” “코드부터 보여주세요”라고 하자 엄청난 쓰레기 더미를 보냄
“이걸 왜 이렇게 하기로 했는지 물어봐도 될까요? x, y, z가 걱정되니 여기 있는 걸 다시 쓰는 게 좋겠어요”라고 하면 “AI가 해준 거고 저는 배우는 중이에요. 다시 쓸 필요 없고 이 부분만 써주세요”라고 함
“사양합니다”라고 하면 다른 누군가가 해주고, 그 사용자는 떠남
슬프게도 요구사항은 늘 그렇듯 모두가 착하게 굴고 소음을 줄이라는 식임. 하지만 개인 차원에서도, 전 세계 차원에서도 작동하지 않음
조용히 지낼 수는 있지만, 친구나 지인이 AI 슬롯머신에 홀려 자기 “작품”을 열정적으로 공유하면 어떻게 할 것인가. 그런 일을 겪었고 처음부터 냉담하고 무례하게 대했지만 통하지 않았음. 그는 계속 여러 산출물을 공유함
전 세계 차원에서는 커뮤니티가 죽어가고 있음. 세계적 소통은 이제 이익보다 부담이 더 큰 지점에 온 것 같음
1990년대 말과 2000년대 초, 어쩌면 2010년대 초까지는 더 연결되는 것이 좋은 고객이나 채용으로 이어질 수 있었음. 요즘은 2022년 ChatGPT 3 이전부터 그런 모든 영역이 과밀하고 가격 경쟁에 시달렸고, LLM은 놀랍게도 새로 더한 건 많지 않고 그 흐름을 증폭했을 뿐임
1991년부터 Usenet을 썼음. 1995년쯤 인터넷이 일반 대중에게 인기를 얻자 상황이 나빠지기 시작했음. 1990년대 말에는 스팸이 Usenet을 압도해서 일반 토론에 거의 쓸 수 없게 만들었음
이후 웹사이트 포럼으로 옮겨갔지만, 아직도 Usenet 뉴스리더만큼 좋다고 생각하진 않음. 내가 가장 좋아한 건 slrn이었음
그다음 Reddit이 등장했고, 많은 온라인 포럼은 사람들이 Reddit으로 옮겨가면서 죽기 시작했음
오늘 아침에도 Reddit에서 게시글 4개를 AI 저품질 글로 운영자에게 신고했음. 신고 항목은 “disruptive use of bots”로 표시하지만, 분류를 바꿔야 함
2개는 운영자가 내 판단에 동의했고 약 5시간 뒤 삭제됐음. 다른 2개는 아직 아무 조치도 없음. 이길 수 없는 싸움임
어떤 글은 “이런 생각을 해봤는데… [길고 두서없는 문단들] 어떻게 생각하세요?” 같은 질문으로 시작함. 1분 읽고, 나머지를 1분 훑다가 인생 2분을 낭비했다는 걸 깨닫고, 다시 30초 들여 운영자에게 신고함
이런 일이 최근 6개월 사이 폭발적으로 늘었음
카르마를 모으는 재게시 봇도 많음. 어떤 서브레딧은 30일이나 6개월 안에 같은 내용을 다시 올릴 수 없다는 규칙이 있음. 그런데 어떤 글이 500 추천을 받고 바로 다음 날 봇이 똑같은 걸 다시 올려도 300 추천을 받는 건 정말 우스움. 봇 농장이 추천까지 눌러주는 것 같음
이 시점에서는 신원 확인이나 인간성 증명 같은 방식이 작동할 것 같지 않음
필요한 건 CORS에서 했던 것과 비슷한 클라이언트·서버 협력이라고 봄
즉 API가 인간 전용임을 표시하고, 실행 환경이 그런 표시를 존중해서 해당 API 호출을 막아야 함
완벽하진 않음. 클라이언트 쪽 강제라서 이론적으로는 그런 제한이 없는 실행 환경을 직접 만들 수 있음. 그래도 앞으로 갈 수 있는 유일한 길이라고 봄