x.com의 조작된 합의(Consensus)

 (rook2root.co)
2P by GN⁺ | ★ favorite | 댓글 2개
  • x.com에서는 추천 알고리듬과 영향력 큰 계정의 상호작용이 사용자가 무엇을 보고, 무엇이 주목받고, 무엇이 묻히는지를 조용히 바꿀 수 있음
  • 팔로워 2억 1,900만 명 계정이 작은 계정을 뮤트하자, 해당 계정의 조회수가 하룻밤 사이 15만에서 2만으로 떨어진 사례가 있음
  • 같은 신호는 억제뿐 아니라 증폭에도 작동해, 고도달 계정의 댓글·리포스트·좋아요·일반 답글이 알고리듬상 지지 신호처럼 읽힐 수 있음
  • 전통적 astroturfing이 가짜 계정과 봇에 의존했다면, 여기서는 실제 사용자 중 선택된 엘리트 계정이 플랫폼 증폭을 촉발함
  • 콘텐츠를 삭제하거나 차단하지 않아도 피드 순위와 노출 위치가 달라지며, 사용자는 이미 필터링·랭킹·노출된 선택지를 유기적 여론처럼 접하게 됨

알고리듬 권위와 노출 조정

  • 영향력 큰 사용자와 추천 알고리듬 설계는 사람들이 무엇을 보고, 무엇이 주목받고, 무엇이 침묵되는지를 조용히 형성함
  • 팔로워 2억 1,900만 명 계정이 작은 계정을 뮤트하자, 작은 계정의 가시성이 하룻밤 사이 15만 조회에서 2만 조회로 떨어짐
  • 이런 억제는 운영자 제재보다 높은 가중치의 참여 신호에 반응한 알고리듬이 만든 shadowbanning 형태로 다뤄짐
  • 반대로 같은 신호가 콘텐츠를 끌어올릴 수도 있음
    • 고도달 계정의 모호한 댓글이나 리포스트가 지지 신호처럼 읽힘
    • 좋아요나 일반 답글 같은 낮은 노력의 반복 상호작용도 모멘텀을 흉내 내고 증폭을 촉발할 수 있음

사회적 증거에서 조작된 합의로

  • 사회적 증거는 더 이상 군중의 지혜만 반영하지 않고, 영향력 가까이에 있는 계정이 만든 알고리듬 승인처럼 작동함
  • 단일 상호작용도 규모감을 왜곡해, 선택된 콘텐츠가 널리 지지받는 것처럼 보이게 만들 수 있음
  • 콘텐츠를 삭제하거나 차단하지 않아도 노출은 줄어들 수 있음
    • 피드에서 낮은 순위로 밀림
    • 핵심 가시성 구역 밖에 배치됨
    • 더 신선한 신호에 의해 밀려남
  • 증폭은 하류로 흐르며, 하나의 높은 가중치 상호작용이 비슷한 계정들의 참여와 반복 노출을 촉발함
  • 전통적 astroturfing은 가짜 계정과 봇에 의존했지만, 여기서는 실제 사용자 중 선택된 계정이 플랫폼 증폭을 시작함
  • 조작된 합의는 군중을 가짜로 만드는 방식이 아니라, 실제 참여를 선별적으로 증폭해 광범위한 동의처럼 보이게 하는 방식임
  • 대규모로 형성된 인식은 사람들이 무엇을 보고, 무엇에 투표하고, 무엇을 사고, 무엇에 항의하고, 무엇을 무시하는지까지 바꿀 수 있음
  • 영향력이 가장 효과적으로 작동하는 방식은 노골적 검열이나 공격적 부스팅이 아니라, 하나의 알고리듬 넛지씩 조용히 인식을 바꾸는 방식임
  • 너무 공개적이고 빠르게 모든 것을 통제하려는 경우는 EU의 X 관련 추가 조사 조치처럼 포착될 수 있음

함께 보면 좋은 글 β

ndrgrd   [-]

글의 사실 여부를 떠나서 트위터를 사용해 본 경험으로는 피드 뿐만 아니라 답글도 좋아요나 리트윗 수가 아니라 팔로우 수가 많은 것부터 보이더라구요.
이미 영향력(팔로워)이 큰 사람의 의견만 보고 아래 묻힌 수십 수백개의 의견은 좋아요를 받든 말든 볼 확률이 매우 적어지게 되는 것이죠.

사실 SNS가 아니어도 이미 많은 곳에서 이런 식의 노출이 채택되고 있는데 의식적으로 최대한 많은 의견을 찾아보는 것이 인터넷의 필수 덕목이라고 해야 할지도 모르겠네요.

답변달기
GN⁺   [-]
Hacker News 의견들

  • Twitter가 게시물을 일단 노출 억제해 두었다가, 혐오 봇들이 몰려와 스팸을 뿌린 뒤에야 보이게 만드는 것처럼 보임
    https://bsky.app/profile/willhaycardiff.bsky.social/post/3lk...
    Twitter가 좋아할 만한 게시물, 예를 들면 폭력적이고 혐오적인 반이민 게시물에는 오히려 호감 봇들이 몰리는 증거도 봤음
    Twitter는 Donald/Elon 등등이 운영하는 선전 채널처럼 보임

    • Musk가 인수한 뒤로는 선전 플랫폼이 됐다고 오래전부터 말해 왔고, 농담이 아니었음
      특정 인물 차단, 사실 확인 중단, 봇 방어와 탐지 약화 같은 실제 사례가 많음
      예전에 Twitter에 더 많은 인력이 필요했던 데는 이유가 있었음
    • “혐오 봇 스팸이 붙은 뒤에 게시물이 보인다”는 현상은 참여도 최적화 순위 알고리즘으로도 충분히 설명 가능함
      혐오 봇 스팸도 알고리즘 입장에서는 “참여”이고, 이 설명은 작성자가 겪은 현상과 잘 맞음
      다만 플랫폼이 반우크라이나 게시물을 억제한다는 주장은 근거가 전혀 부족함
    • 이 글에서 중요한 부분은 이 현상이 Twitter에만 한정되지 않는다는 점임
      “이 일이 한 소셜 네트워크에서만 벌어진다고 생각한다면 이미 잘못된 주의 루프에 갇힌 것이다”
      “가장 효과적인 영향력은 스스로를 드러내지 않는다. 크게 검열하거나 노골적으로 밀어주지 않는다. 알고리즘의 작은 밀어주기 하나씩으로 조용히 인식을 빚는다”
    • 콘텐츠 전달에 인위적 지연을 넣는 방식이 조용히 퍼지고 있음. Twitter만의 일이 아님
      4chan이 방해를 받은 것도 이런 지연 메커니즘을 넣을 여지가 없어서였을까 싶음
    • 소셜 미디어는 광고로 돈을 벌거나, 합의 형성으로 돈을 벌거나 둘 중 하나임
      HN은 어떤 방식을 택한다고 보는지, 여기엔 봇이 얼마나 있다고 생각하는지 궁금함. 광고는 안 보이니까

  • 이런 정책이 유도하는 복리 효과 때문에 좀 섬뜩함
    강력한 X 계정 몇 개만 있으면 더 많은 계정을 키울 수 있고, 남을 침묵시키는 데 그치지 않고 같은 편을 밀어 올려 침묵시킬 능력 자체를 키울 수 있음
    아직 초기 단계라 영향력 장악 과정을 지켜보는 중이고, 영향력이 새로운 자본이라는 논의도 있음
    디지털 시대에 자본 축적을 가능하게 했던 시스템을 영향력 영역에서도 그대로 재현하고 있음

    • 이게 설계가 아니었다고 보기 어려움
      Elon이 알고리즘 소스 코드를 요란하게 공개하면서 검색 최적화 엔지니어들이 시스템을 맞춰 담론을 통제할 수 있게 했음
      “누구나 읽을 수 있다”고 해도 현실적으로 그 수고를 들이고 실행할 시간과 자원을 가진 쪽은 선전 세력뿐임
      사실상 사이트를 IRA에 넘기고 마음껏 하라고 한 셈임
    • 영향력이 축적되는 구조는 자본의 역사적 패턴과 닮았음. 가진 쪽이 시스템을 바꿔 더 많이 가지는 구조임
      다만 우리가 참여하기로 선택할 때만 그 힘이 유지된다는 점도 기억할 필요가 있음
      개인적으로는 X.com이나 Elon Musk와 관련된 것에서 완전히 떨어져 나왔고, 계정을 지우고 생태계에서 빠졌더니 삶이 나아졌음
      둠스크롤도, 알고리즘의 유도도, 은근한 행동 조건화도 없음
      영향력이 새 자본일 수는 있지만, 탈퇴와 비참여도 여전히 주체적 선택임. 참여는 의무가 아님
    • 결국 평범한 사람들은 떠나게 될 것임
    • 2015년 전후 Reddit의 moderation 강화 때 이탈한 이용자를 끌어들이려 “표현의 자유 피난처”를 내세웠던 소셜 뉴스 집계 사이트 Voat.co가 떠오름
      처음에는 꽤 평범했음
      https://web.archive.org/web/20150501033432/https://voat.co/
      이후 참여에 카르마 기반 제한을 걸었음
      https://web.archive.org/web/20170520210511/https://voat.co/v...
      거기에 Reddit에서 쫓겨난 인종차별주의자와 여성혐오자들이 유입되면서, 편협한 사람들이 서로를 추천해 파워유저가 되고 반대하는 사람을 검열하는 눈덩이 효과가 생김
      정상 이용자들은 머무르기 싫어졌고, 그 결과 편협함이 더 굳어졌음
      몇 년 안에 새 게시물 거의 전부가 급진 우파, 노골적 인종차별·성차별·반유대주의 네오나치 쓰레기가 됨
      https://web.archive.org/web/20200610022710/https://voat.co/
      사이트는 2020년 말 자금 부족으로 문을 닫았음
      Xitter에서도 거의 같은 일이 벌어지고 있지만, 출발 사용자층이 훨씬 컸고 Elon이 당분간 돈을 댈 수 있어서 더 느리게 진행될 뿐임

  • 충분한 주목이 모여 유인이 생기는 곳이면 어디든 제조된 합의가 있음. 그중 최악은 단연 Reddit임

    • Reddit을 12년 써 왔는데, API 사태 이후 품질이 크게 떨어졌음
      인기 서브레딧 대부분은 이제 여론 조작이 깔려 있고, 매주 무언가에 대한 십자군 운동이 생김
      처음엔 Twitter 금지를 주장하더니 이제는 AI 그림 금지에 반대하는 식임
      일반 게시물에서도 요즘 Reddit은 군중심리가 강해졌고, 댓글을 훑어보면 같은 의견이 끝없이 반복됨
      “동의함”처럼 토론에 아무것도 더하지 않는 댓글이 수백 추천을 받기도 함
    • X에 대해 나쁜 말을 많이 할 수는 있지만, 커뮤니티 노트는 실제로 꽤 좋아졌음. Reddit은 아직 비슷한 기능도 구현하지 못했음
      Pew도 X를 대부분의 소셜 미디어보다 정치적으로 중도에 가깝게 평가해 왔는데, 물론 그건 주관적일 수 있음
    • 가장 노골적인 사례는 Reddit이 선거 전후로 완전히 180도 바뀐 일이었음
      선거 전에는 경선 없이 후보를 세우는 것에 의문을 제기하면 신성모독 취급을 받았는데, 선거 뒤에는 그게 패배 원인으로 널리 받아들여졌음
      부풀린 선전 풍선이 꺼지는 걸 보는 느낌이었음
    • Reddit은 끔찍함. 조금이라도 논쟁적인 주제에는 단 하나의 서사만 허용되고, 누가 다른 관점을 제시하려 하면 댓글이 잠김
      이견은 곧 “혐오”가 됨
    • Reddit은 많은 사람이 이해하는 것보다 훨씬 더 나쁨
      2021년부터 이용자 첫 화면의 Best 정렬이 추천·비추천보다 참여도 지표를 쓰는 점은 일단 제쳐 두더라도, moderator들이 허용되는 내용을 철저히 장악하고 있음
      r/redditminusmods가 이걸 추적했음. 12시간마다 상위 50개 게시물을 스냅샷으로 저장하고, 이전 12시간 스냅샷의 게시물 중 몇 퍼센트가 삭제됐는지 확인했음
      시작할 때는 평균 20% 정도였는데, 끝무렵엔 거의 매 12시간마다 50개 중 50개 또는 49개가 삭제되는 수준이었음
      당연히 Reddit은 이런 수준의 감시를 허용할 수 없었고, 이유도 밝히지 않은 채 그 서브레딧을 금지했음
      지금은 Google에서 제대로 나오는 결과도 사실상 여기로 돌아옴. 얼마나 심했는지는 직접 볼 수 있음: https://news.ycombinator.com/item?id=36040282
      그것도 2년 전까지만 다룬 것이고, 이후로는 더 나빠진 느낌임
      worldnews, politics 같은 일부 서브레딧이 허용 범위 밖 의견을 가진 사람을 금지해 합의의 환상을 만드는 문제는 여기서 다루지도 않았음

  • 이 글이 이렇게 추천을 많이 받은 게 놀라움. 지금 쓰는 시점에 40점인데, 실제로 글 안에 내용의 밀도는 별로 없음
    작성자는 “Musk와의 갈등” 뒤 특정 사용자의 조회수가 급락한 그래프를 보여주는데, 이건 분명 수상하고 언급할 가치가 있음
    하지만 블로그의 나머지는 “사회공학”과 “인식의 연쇄”에 대한 사변일 뿐이고, 뒷받침은 거의 없음
    사람들이 제목과 첫 문단만 보고 추천하는 건가 싶음. 이 글은 그래프만 남겨도 잃는 게 거의 없었을 것임

    • 이 주장들을 뒷받침하는 근거가 더 있길 바랐음
      인용된 NYTimes 기사와 첫 그래프의 출처가 오히려 더 흥미로운데, 다른 사례 몇 개도 포함되어 있음
      https://www.nytimes.com/interactive/2025/04/23/business/elon...
      또는 Web Archive:
      https://web.archive.org/web/20250423093911/https://www.nytim...
    • EM은 자기 이익에 맞게 알고리즘을 직접 조작함
      우리가 아는 사례도 있음: https://www.theguardian.com/technology/2023/feb/15/elon-musk...
    • 글의 근거가 부족하다는 데는 동의하지만, 그래도 생각할 거리는 줬음
      사람들이 보는 것은 자연스럽게 느껴지지만, 실제로는 이미 걸러지고, 순위가 매겨지고, 표면으로 올려진 것과 상호작용하는 것임
      나도 그렇고 많은 사람도 댓글이나 콘텐츠를 일종의 유기적 합의의 산란광처럼 받아들이는 경향이 있음
      수천 명이 같은 답을 달면 분명 합의처럼 느껴짐. 물론 꼭 사실은 아니고, 실제로는 크게 다를 수도 있음
      그래도 흥미로운 건 더 많은 사람이 그렇게 인식하면 결국 실제 합의가 될 수도 있다는 점임
      결국 여기에도 알고리즘 손잡이가 작동한다는 사실을 다시 떠올리는 건 좋음. 새삼스러운 사실이 아니더라도
    • 건설적인 비판에 감사하고, 출처를 더 분명히 강조했어야 한다는 점이 맞음
      실제 근거로 기대고 있던 건 세 가지였음
      1. 계정 침묵화에 관한 NYTimes 기사: https://www.nytimes.com/interactive/2025/04/23/business/elon...
      2. 저가치 트윗이 눈에 띄게 부스트되는 현상. 다만 X API 호스에 연결해 데이터를 정량화했어야 했음
      3. 이 논문: https://github.com/timothyjgraham/AlgorithmicBiasX/blob/3f4c...
        글이 거의 끝난 뒤에야 이 논문을 떠올려서 본문에 넣지 못했는데, 넣었어야 했음. Elon의 도달 범위를 특정해서 올리는 알고리즘 변경을 보여줌
        나머지 출처는 추정에 가까웠음
        Super Bowl 소동: https://www.theguardian.com/technology/2023/feb/15/elon-musk... — 증거가 약함
        Elon이 엔지니어 100명에게 자기 트윗을 부스트하게 했다는 건 전언 수준임
        내부고발자라는 글도 있음: https://substack.com/@theconcernedbird/p-154577954 — 하지만 역시 증거는 없음
        알고리즘은 여전히 폐쇄 소스임
        그래프 이후의 글이 와닿지 않았다면 미안함. 다음엔 더 잘하겠음
        -- 작성자
    • 사람들이 Elon Musk를 싫어해서 추천하는 것뿐임. 그렇게 복잡한 일이 아님

  • X는 다시 암호화폐와 금융 서비스를 파는 봇으로 가득함

    • 최근에 다시 들어가 봤는데, 내가 잘못된圈에 있는 건지 둘 다 보이지 않았음
      대신 클릭을 노린 재활용 콘텐츠는 여전히 많이 보임
    • 사실 멈춘 적이 없음. Elon이 봇에 대해 울부짖던 건 인수하자마자 멈췄음
    • 정말 쓰레기장으로 퇴화했음. 몇 년 전에 그만뒀음
    • 그가 봇 문제를 해결하긴 했음. Twitter가 Elon의 봇을 금지하던 문제를 해결한 것임
    • 공평하게 말해야 함. 포르노 봇과 홀로코스트 부정도 가득함

  • 제목이 아이러니한 건가? 이게 도움이 되는지 모르겠음
    Chomsky와 Herman의 책 Manufacturing Consent는 이 상황에서는 대체로 쓰이지 않는 기법들을 다룸
    Chomsky의 책은 숨은 편집자를 드러내기 때문에 그 효과를 강화하기보다 약화시킴
    여기서는 국영 언론에 더 가까움. 객관적인 척하는 알려진 편집자가 있고, 그 편집자는 특정 주제에만 신경 쓰며 나머지 주제는 추적 가능하게 자유롭게 돌아다니도록 놔둠
    Chomsky의 경우 편집자의 힘은 은밀함에서 오고, 사람들이 속을 때만 작동하므로 책은 그 힘을 줄임
    반면 이 경우 힘은 편집자가 알려져 있으면서도 막을 수 없음에서 나옴
    사람들은 그것을 받아들여야 하고, 받아들이고 있다는 사실도 알아야 함. 몰려가고 있다는 자각을 피하려면 팬으로 동조해야 하고, 아니면 외부자임을 드러내야 함
    대부분은 아무것도 하지 않는 기본 선택을 하기 때문에, 자신이 몰려가고 있거나 팬이라는 증거가 누적됨
    이는 동의를 제조한다기보다 “우리 편 아니면 적” 같은 강제 장치로 수용을 조건화함
    이런 글과 뒤따르는 토론은 편집자에게 반대하면 어떻게 되는지를 보여주고, 아무 행동 없이 끝나면서 오히려 편집자의 힘을 강화하고 자기검열 효과를 키움
    그래서 도움이 안 될 수도 있음. 플랫폼이 공정성 주장을 지키지 못할 때 버리는 것이 더 낫겠지만, 그걸 설계하기는 어려움

    • Manufacturing Consensus는 적어도 이 글의 주제에 더 잘 맞는 별도 책 제목이기도 함

  • X의 “제조된 합의”에 대한 글의 불안은 과장됐음
    영향력은 늘 큐레이션되어 왔음. 편집자, 마을 고지인, 마이크를 잡은 사람이 모두 아날로그 알고리즘이었음
    X의 죄는 사악한 알고리즘이 아니라, 그저 행성 규모로 돌아간다는 데 있음
    수천 개의 작은 커뮤니티를 버리고 하나의 전 지구적 고함장으로 왔으니, 거대 인플루언서들이 판을 가져가는 건 당연함
    알고리즘은 우리가 즉각적이고 전 세계적인 잡담을 갈망하기 때문에 이 혼돈을 계속 굴리는 톱니바퀴일 뿐임
    어떤 사람들은 완벽한 알고리즘이 존재하는 척하지만, bsky나 IG/fb도 한 팀, 한 데이터베이스, 한 기준으로 해결되는 게 아님
    “완벽한” 시스템은 서로 다른 공간의 서로 다른 알고리즘들이 느슨하게 연결된 지저분한 그물이고, 각자 맥락을 가짐
    X의 코드를 탓하는 건 핵심을 놓친 것임. 우리는 이 행성 규모의 서커스에 가입했고 계속 표를 사고 있음

    • 인수 이후 X 게시물의 서사 변화가 있었다는 점은 부정할 수 없음
      그래서 단순히 행성 규모라서 생긴 일만은 아님. 인수 전에도 이미 행성 규모였음
      알고리즘은 행성 규모에서 서사를 한쪽으로 밀어낼 힘이 있음

  • 알고리즘이 실제로 이렇게 작동한다는 걸 알고 있나? 글은 특정 사례 하나의 그래프만 보여주고, 조회수 급락에는 여러 설명이 가능함
    특히 Twitter 소유자가 얽혀 있다는 점을 생각하면 더 그렇음

    • 재미있게도 우리는 그걸 알고 있어야 했음. Elon이 투명성을 내세워 알고리즘을 오픈 소스로 공개하겠다고 약속했으니까
      실제로는 2년 전 GitHub에 일회성 스냅샷을 올린 뒤 업데이트도 없고 다시 언급도 하지 않았음. 이런 사례가 한둘이 아님
    • 차트 아래에 출처인 NYTimes 기사 링크가 있고, 거기엔 이런 사례의 그래프가 더 있음
    • “For You” 피드는 참여 유도 미끼임. 다시 말해 거의 전적으로 클릭률로 돌아가는 것처럼 보임
      팔로우하는 사람들이 반응한 게시물 풀에서 가져오는 듯하고, 제한은 24시간 정도로 보임
      아주 정교한 알고리즘은 아닌데, 일과 삶의 균형 문제 때문에 최고의 인재들이 거기서 일하고 싶어 하지 않을 가능성이 큼

  • 예전 오렌지 사이트 글타래를 보면 사람들이 Twitter를 공공재라고 부르는 등 거친 주장을 깊이 생각하지 않고 했던 게 웃김
    하지만 솔직히 이 회사는 늘 이런 문제에 취약하다고 봤음
    그래서 Masnick의 “Protocols not Platforms” 글은 아직도 정말 적절함
    https://knightcolumbia.org/content/protocols-not-platforms-a...

    • 사람들이 Twitter를 공공재라고 불렀던 건 늘 지향점에 가까운 주장이지, 그런 공격에 면역인 지배구조를 이미 갖췄다고 진심으로 믿은 건 아니었을 것임

  • 읽으면서 HN과의 유사점을 떠올리지 않을 수 없었음
    그래도 HN은 “알고리즘”에 대해 투명하려고는 하고, X/FB 등이 쓰는 것과 비교하면 본질적으로 단순한 알고리즘임

    • HN은 근본적으로 다르다고 봄. 설정이나 moderator 권한을 제외하면 모두가 같은 게시물과 댓글을 봄
      반면 X에서는 각자 조금씩 맞춤화된 피드를 받음
    • 사람들이 보통 “알고리즘”이라고 부르는 대부분의 소셜 미디어 플랫폼에서는 핵심적으로 개인화되어 있고, 대개 참여도 지표에 크게 좌우됨
      위험하고 형편없어지는 이유는 거기에 있지, 단순한 투표 시스템이나 최신순 정렬 때문이 아님
      물론 이런 논의에서 꼭 누군가는 “기술적으로 그것도 알고리즘”이라고 친절하게 짚어주지만
    • 그렇게 투명한가? 이 목록을 보기 전까지는 여기 있는 항목 대부분을 몰랐음: https://github.com/minimaxir/hacker-news-undocumented
    • HN이 moderator가 flag를 무시하거나 다른 moderation 결정을 내릴 때 페이지 어딘가에 표시해 주면 좋겠음
      그렇게 하지 않는 이유는 moderation 편향과 흐름이 드러나기 때문일 것임
    • HN 알고리즘이 추천·비추천한 사용자 계정의 인기도에 따라 게시물과 댓글을 올리거나 숨기나? 모든 계정의 투표 가중치가 같다고 생각했음
답변달기