`x.com`의 조작된 합의(Consensus)

• X.com에서는 알고리듬과 인기 계정이 콘텐츠 노출을 조용히 조작함
• 소셜 증거는 실제 대중 의견이 아니라 영향력자와의 근접성으로 조작됨
• 지각의 연쇄 반응을 통해 특정 서사가 점차 강화되고 확산됨
• 과거 Astroturfing은 가짜 계정이었지만, 이제는 선별된 실제 사용자들이 활용됨
• 사람들은 스스로 선택한다고 믿지만, 실제로는 알고리듬에 의해 선택지가 조정됨

---

알고리듬 권위

• 영향력 있는 사용자와 추천 알고리듬 설계가 사람들이 무엇을 보고, 무엇이 주목받고, 무엇이 묻히는지를 조용히 조정함
• 팔로워 2억 1,900만 명을 가진 계정이 작은 계정을 단순히 '뮤트'하면, 작은 계정의 조회수가 하루 만에 150,000에서 20,000으로 급감함
• 이는 명시적인 규칙 위반이나 공지가 아닌, 알고리듬에 의해 이루어지는 섀도우밴의 일종임
• 반대로 영향력 있는 계정이 긍정적 신호를 보내면 콘텐츠는 급속히 확산되고 인지도가 상승함
• 심지어 단순한 좋아요나 반복 댓글도 AstroBoost™ 역할을 하여 가짜 활기를 연출하고 증폭을 유발함

소셜 증거의 사회 공학적 조작

• 과거의 소셜 증거는 집단 지혜를 반영했지만, 현재는 알고리듬 승인이 주요 요인이 됨
• 영향력 있는 계정과의 단 한 번의 상호작용만으로도 콘텐츠의 인기도가 왜곡될 수 있음
• 결과적으로 인위적 인기도가 형성되며, 알고리듬이 선택한 내러티브가 부각되고 자연스러운 아이디어는 묻히게 됨
• 이는 사기 행위가 아니라 영향력 인프라로 정의됨

지각 연쇄 반응

• 콘텐츠를 삭제하거나 차단할 필요 없이 단순히 피드 내 우선순위를 낮추는 방식으로 가시성을 줄임
• 이러한 방식으로 콘텐츠는 자연스럽게 덜 보이게 되고 존재감이 사라짐
• 반대로 긍정 신호를 받은 콘텐츠는 연쇄 반응을 일으켜 비슷한 계정들에 걸쳐 확산되고, 동일한 내러티브가 반복적으로 강화됨
• 사용자들은 이 과정을 자연스러운 것처럼 인식하지만, 실제로는 이미 필터링되고 순위가 매겨진 결과물임

Astroturfing 2.0

• 과거의 아스트로터핑은 가짜 계정과 봇을 활용했지만, 지금은 선별된 진짜 사용자들이 활용됨
• 엘리트 계정이 알고리듬을 작동시키고, 다른 사용자들은 그 파장에 휘말리게 됨
• 이는 군중을 속이는 것이 아니라, 군중을 유도하는 방식임
• 실제 사용자와 실제 참여를 선택적으로 증폭시켜 광범위한 동의 illusion을 형성함
• 피드에 남아 살아남은 콘텐츠가 곧 "합의"로 인식됨

보이는 것과 보이지 않는 것

• 대규모 인식 조작은 사람들이 무엇을 보고, 구매하고, 지지하고, 무시하는지를 결정하게 함
• 단순히 주의를 왜곡하는 것이 아니라, 최종 결과를 조정함
• 진실은 '무엇이 진짜냐'가 아니라, '무엇이 보여지느냐'로 정의됨
• 보여지지 않는 것은 존재하지 않는 것과 같음
• 이 현상은 단일 소셜 네트워크만의 문제가 아님

부록: 시끄러운 자들은 항상 먼저 무너짐

• 가장 효과적인 영향력은 드러나지 않으며, 한 번의 알고리듬 신호로 조용히 인식을 조정함
• 모든 것을 노골적으로 통제하려는 세력은 쉽게 발각되고, 오래 지속되지 못함
• 대신 사람들에게 스스로 선택했다고 믿게 만들면서 선택지를 조작하는 세력이 살아남음

[ndrgrd]

글의 사실 여부를 떠나서 트위터를 사용해 본 경험으로는 피드 뿐만 아니라 답글도 좋아요나 리트윗 수가 아니라 팔로우 수가 많은 것부터 보이더라구요.
이미 영향력(팔로워)이 큰 사람의 의견만 보고 아래 묻힌 수십 수백개의 의견은 좋아요를 받든 말든 볼 확률이 매우 적어지게 되는 것이죠.

사실 SNS가 아니어도 이미 많은 곳에서 이런 식의 노출이 채택되고 있는데 의식적으로 최대한 많은 의견을 찾아보는 것이 인터넷의 필수 덕목이라고 해야 할지도 모르겠네요.

[GN⁺]

Hacker News 의견

• Twitter가 게시물을 억제하다가 혐오 봇에 의해 스팸 처리되면 게시물을 노출시키는 것 같음
  • Twitter가 좋아하는 게시물(폭력적이고 혐오적인 반이민 게시물)이 사랑 봇에 의해 스팸 처리되는 증거도 보았음
  • Twitter가 Donald/Elon 등이 운영하는 선전 채널처럼 보임
• 이러한 정책이 복리 효과를 유발하여 소름 끼치는 면이 있음
  • 강력한 X 계정을 몇 개만 가지면 더 많은 계정을 생성할 수 있는 능력을 가짐
  • 다른 사람을 침묵시키는 것뿐만 아니라 동조하는 동맹을 홍보하여 침묵시킬 수 있는 능력을 증가시킬 수 있음
• 우리는 영향력 포착의 초기 단계에 있으며, 영향력이 새로운 자본이라는 논의가 있음
  • 새로운 디지털 시대에 자본 축적을 허용하는 시스템을 복제하고 있음
• Reddit이 최악으로, 주목을 받을 만한 곳에는 제조된 합의가 어디에나 있음
• 이 글이 40점이나 받은 것이 놀라움
  • 작성자는 특정 사용자의 조회수가 "musk와의 불화" 이후 급격히 감소한 그래프를 제시함
  • 이는 의심스러우며 언급할 가치가 있지만, 나머지 블로그는 "사회 공학"과 "인식의 연쇄"에 대해 아무런 근거 없이 설교하는 것에 불과함
  • 제목과 첫 단락만 보고 투표하는 것인지 의문임
  • 이 글은 그래프로 축약해도 거의 잃을 것이 없을 것임
• 제목이 아이러니한가? 도움이 되는가?
  • Chomsky와 Herman의 책 "Manufacturing Consent"은 이 상황에서 거의 사용되지 않는 기술을 설명함
  • 여기서는 국가 운영 미디어 아울렛에 더 가까움
  • Chomsky의 경우, 편집자의 힘은 은밀함에서 나오지만, 이 경우에는 편집자가 알려져 있어도 멈출 수 없는 것에서 나옴
  • 사람들은 자신이 팬으로서 받아들이지 않으면 외부인으로 드러나게 됨
  • 대부분의 사람들은 아무것도 하지 않는 기본 단계를 밟기 때문에 자신이 팬이거나 몰려다니는 증거를 축적하게 됨
  • 이는 수용을 조건화하는 강제 기능임
• 이 경우, 편집자에 반대할 때 일어나는 일을 보여주는 기사와 이와 같은 논의는 편집자를 강화하고 자기 검열 효과를 증가시킴
  • 플랫폼이 공정성 주장을 충족하지 못할 때 플랫폼을 포기하는 것이 더 나을 수 있음
• X는 다시 암호화폐 및 금융 서비스를 판매하는 봇으로 가득 참
• X의 "제조된 합의"에 대한 기사는 과장됨
  • 영향력은 항상 큐레이션되어 왔음
  • X의 죄는 악한 알고리즘이 아니라 행성 규모로 운영되는 것임
  • 우리는 수천 개의 작은 커뮤니티를 하나의 글로벌 소음 대결로 바꾸었음
  • 알고리즘은 이 혼란을 유지하는 기어일 뿐임
  • 완벽한 알고리즘이 존재한다고 가장하는 사람들도 있음
  • "완벽한" 시스템은 서로 다른 공간에서 서로 다른 알고리즘의 복잡한 웹임
  • X의 코드를 지적하는 것은 핵심을 놓치는 것임
  • 우리는 이 행성 서커스에 등록했고 계속해서 티켓을 구매하고 있음
• 알고리즘이 실제로 이렇게 작동하는지 알 수 없음
  • 기사는 특정 인스턴스의 하나의 플롯만 보여주며, 시청률 급락에 대한 설명이 여러 가지일 수 있음
• HN과의 유사성을 느꼈음
  • 적어도 HN은 "알고리즘"에 대해 투명하려고 노력함
  • X/FB 등에서 사용하는 것에 비해 본질적으로 단순한 알고리즘임
• 알고리즘이 이러한 경우에 고프로필 계정을 차단하는 것에 영향을 받는지 궁금함
  • 예를 들어, 오래전에 Musk를 차단했는데, 그렇지 않으면 알고리즘이 그의 '콘텐츠'를 계속 밀어붙임
  • 알고리즘이 여전히 그가 상호작용한 것을 나에게 우선시하는지, 아니면 그를 차단하지 않은 사람들에게만 그렇게 하는지 궁금함
  • 그가 상호작용할 것이라고 예상되는 것이 추천되지만, 그것이 실제로 왜 나에게 밀어붙여지는지는 모름