소수의 ‘supersharers’가 가짜 뉴스의 대부분을 확산

• 2020년 미국 대선 기간 X(구 Twitter)의 미국 유권자 표본에서 약 2000명의 supersharers가 가짜 뉴스 사이트 콘텐츠 80%를 퍼뜨려, 허위 정보 확산이 극소수 계정에 집중된 것으로 나타남
• 이 집단은 평균 58세로 표본 평균보다 17세 많았고, 거의 60%가 여성이었으며 등록 정당은 공화당 64%, 민주당 16%였음
• 연구진은 높은 활동량 때문에 자동화를 예상했지만 트윗 시점과 간격에서 봇 패턴을 찾지 못했고, 실제 사용자가 직접 리트윗하는 양상에 가까웠음
• 2020년 8월 이들을 정지했다면 유권자가 본 가짜 선거 뉴스가 3분의 2 감소했을 것으로 추정되며, 하루 리트윗 50개 제한은 supersharers의 약 90%에 영향을 주는 반면 전체 사용자는 1%만 걸림
• 리트윗 제한이나 재확인 절차는 대부분의 사용자 경험을 크게 해치지 않고 확산을 줄일 수 있지만, 실제 효과는 이들이 왜 계속 퍼뜨리는지를 이해하는 데 달려 있음

---

2020년 대선 데이터에서 드러난 집중 확산

• Science에 발표된 분석에 따르면 X(구 Twitter)의 미국 유권자 60만 명 이상 표본에서 가짜 뉴스 사이트 콘텐츠 확산은 소수 사용자에게 크게 몰려 있었음
• Infowars, Gatewaypundit 같은 사이트의 2020년 미국 대선 관련 콘텐츠가 소셜 피드에 보였다면, 매우 작은 사용자 집단에서 시작됐을 가능성이 큼
• 연구진은 실명과 위치를 사용하는 미국 X 사용자 66만 명 데이터를 활용해 유권자 등록 데이터와 매칭함
• 이 사용자들이 하루에 공유한 정치 뉴스 중 약 7%는 Infowars와 Gatewaypundit 같은 신뢰할 수 없는 웹사이트에서 나왔음
• 그중 2107명이 가짜 뉴스의 80%를 확산했으며, 데이터셋 사용자 20명 중 1명 이상이 supersharers 중 최소 1명을 팔로우해 작은 집단의 도달 범위가 컸음

supersharers의 특징과 가능한 대응

• supersharers의 평균 연령은 58세로 연구 전체 평균보다 17세 많았고, 거의 60%가 여성이어서 소셜 미디어 조작자가 젊은 alt-right 남성이라는 고정관념과 맞지 않음
• 등록 정당은 공화당 64%, 민주당 16%로 나타남
• 높은 활동량과 달리 트윗 시점이나 간격에서는 자동화를 시사하는 패턴이 확인되지 않았고, 공동저자 Briony Swire-Thompson은 이들이 실제로 컴퓨터 앞에서 리트윗 버튼을 누른다고 설명함
• Nir Grinberg에게 supersharing은 기술에 능숙한 개인들의 일회성 선거 개입이라기보다, 사회 일부의 정보 생태계를 오염시키는 장기적인 사회-기술적 과정에 가까움
• 이전 연구도 비슷한 집중 현상을 보였음
  • 2019년 Nir Grinberg와 동료들은 2016년 미국 대선 전후 Twitter 사용자 1만6000명 이상 표본에서, 신뢰할 수 없는 웹사이트의 트윗된 뉴스 80%가 단 16명에게서 나왔다고 분석함
• 대응은 supersharers를 직접 겨냥하거나 리트윗 과정을 제한하는 방식으로 설계될 수 있음
  • 2020년 8월 supersharers를 정지했다면 유권자가 본 가짜 선거 뉴스가 3분의 2 줄었을 것으로 추정됨
  • 하루 리트윗 상한을 50개로 두면 연구 속 fake news supersharers의 약 90%가 영향을 받음
  • 같은 제한에서 전체 사용자는 약 1%만 한도에 걸림
  • Stephan Lewandowsky는 절대적 제한 대신 X가 사용자가 정말 리트윗할지 묻는 방식으로 과정을 조금 더 번거롭게 만들 수 있다고 봄
• 남은 질문은 supersharers가 무엇을 하는지가 아니라 왜 그렇게 하는지로 이동함

[GN⁺]

Hacker News 의견들

• “가짜 뉴스 공유를 어떻게 막을까?”가 아니라 “사람들이 가짜 뉴스를 식별할 도구를 어떻게 갖게 할까?”가 맞는 질문임
  도구를 줬는데도 누군가가 내가 가짜 뉴스라고 보는 것을 퍼뜨린다면, 할 수 있는 건 다 한 셈임. 너무 많은 사람이 자기와 다른 내용을 공유하는 데 분노하고 소통을 억누르려 함. 하지만 그런 생각이 설득에서 진 것일 뿐이고, 사람들은 나를 화나게 하는 생각을 하고 공유할 자유가 있음. 검열이라는 무기를 집어 들면, 그걸 휘두르는 마지막 사람이 내가 아닐 것임

  • “가짜 뉴스”와 “내가 동의하지 않는 의견 차이”는 완전히 다름
    가짜 뉴스는 보통 거짓 소문이나 증명 불가능하고 근거 없는 주장을 증폭하는 것에 가깝고, 이게 담론을 크게 망침. 반대 의견이라도 증명 가능한 사실로 제시되고 뒷받침된다면 기꺼이 읽고 싶음
  • 이 논리는 “가장 크고 오래 소리치는 쪽이 이긴다”와 뭐가 다른지 모르겠음
    양은 사실이나 진실이 아님. 검열이 위험한 건 맞지만, 이 글은 검열을 주장하지 않음. Mark Twain의 “거짓말은 진실이 장화를 신는 동안 전 세계를 돈다”는 말처럼, 소셜 미디어는 그 효과에 로켓 연료를 붓는 셈임. 어떤 집단이 거짓말을 일관되고 불균형하게 증폭한다면 약간의 마찰을 넣거나, 재게시할 것을 우선순위로 고르게 하는 건 합리적임. 이는 거짓말 게시를 막지 않고, 본인이 보기에 가장 중요한 것만 고르게 할 뿐임
    Hacker News도 너무 많이 올리면 “Please slow down, you're posting too fast.” 같은 메시지가 뜨고 몇 시간 동안 다시 올릴 수 없음. 이걸 두고 “검열!!”이라고 우는 사람은 못 봤고, Twitter의 토론이 HN보다 낫다고 생각할 사람도 별로 없을 것임. 그러니 다른 소셜 미디어에 비슷한 게시량 제한을 제안한다고 왜 “검열”이라고 하는지, 특정 내용에는 아무 제한이 없다는 점까지 포함해 답해야 함
  • 동의하지 않는 건 아니지만, 이 접근이 비만에 대한 식단/운동 조언만큼의 효과에 그칠까 걱정됨
  • 사람들에게 가짜 뉴스를 알아보는 법을 가르치면, 그들은 내가 퍼뜨리는 가짜 뉴스도 알아볼 수 있게 됨
    원하는 건 사람들이 적의 가짜 뉴스, 혹은 진실이라도 적이 말한 것이면, 거기서 차단되는 것임. 그러면 사람들은 내가 말하는 건 다 믿고 적은 영향을 줄 수 없게 됨
  • 다수는 신경 쓰지 않음. 최고의 식별 도구를 줘도 믿지 않거나 무시할 것임

• 1990년쯤 인터넷 이메일이 기술에 밝은 조직의 비기술 직원들에게 처음 보급될 때, 아주 소수의 사람들이 오락적 공유 장애 같은 행동을 보였음
  금발 농담이든 “암에 걸린 Katie를 위해 모두 기도해 주세요”든 “이걸 1,000번 전달하면 세계 평화가 옵니다”든 상관없었음. 신뢰성 필터도 없고, 다른 사람의 시간과 관심사를 존중하는 필터도 없었음. 연결된 사용자가 늘어나면 아주 작은 비율의 이런 사례만으로도 전화접속 모뎀이나 부분 T-1 회선 수준의 이메일 서비스를 망가뜨릴 만큼 트래픽이 생겼음. 수학적으로는 흥미로웠고, 관리자가 가끔 상기시켜 주면 직장에서는 꽤 통제 가능했음. 지금은 정치와 감정이 얹혀 훨씬 독성이 커졌지만, 밑바탕은 대부분 매우 큰 네트워크와 인간 행동의 종 모양 분포라는 점을 떠올릴 필요가 있음

  • 이메일은 푸시 모델이었지만, 지금은 플랫폼이 우리가 볼 것을 결정한다는 차이가 있음
    플랫폼이 원한다면 정치, 분노 유발 콘텐츠 등을 걸러내는 사용자 설정을 만드는 건 쉬울 것 같음. 예를 들어 Reddit은 내가 그 하위 커뮤니티에 속하지 않아도 경찰 폭력 영상 링크를 홈에 띄움. 계산대 앞에 초콜릿바를 놓아 일부러 내 자제력과 싸우게 만드는 것과 비슷한 나쁜 패턴으로 보임
  • 9/11 다음 날이 떠오름
    뉴욕에서 차로 몇 시간 떨어진 작은 회사에서 일하고 있었고, 더 서쪽에 본사가 있는 큰 회사의 자회사였음. 본사 행정 조직의 누군가가 전날 사건의 초고해상도 사진을 전달했는데, 사용한 그룹 이메일 주소가 관리 체계 아래 있는 모든 조직을 포함하고 있어서 1만~2만 명이 사진을 받았을 가능성이 있음. 세 통쯤 보낸 뒤 멈췄거나 멈춰졌음. 좋든 나쁘든, RSD 성향의 사람들은 Facebook으로 옮겨 간 듯함
  • 부모님이 은퇴해서 가장 좋았던 것 중 하나는 매일 보내던 끝없는 쓰레기 이메일이 멈춘 것이었음
    https://www.youtube.com/watch?v=KCSA7kKNu2Y

• 작고 집중된 집단이 사회에 큰 영향을 줄 수 있다는 건 잘 알려진 사실이고, LGBT 권리처럼 처음엔 주변부였던 진보적 아이디어도 그렇게 구현됐음
  가짜 뉴스의 문제는 그중 일부가 사실로 드러나면서 반대한 사람들의 신뢰를 떨어뜨리고, “진실의 판정자”를 의심하게 만들며, 초공유자에게 더 큰 신뢰를 준다는 것임. “공식 언론이 저 사건에서 거짓말했다면 이 사람도 맞을 수 있지 않나?”가 됨. 이제 Jeffrey Sachs처럼 평생 권력권에 있던 존경받는 사람들까지 여러 공식 서사에 의문을 제기함. 이게 “진실” 신호를 더 약하게 만들고 혼란을 키움. AI도 곧 상황을 더 나쁘게 만들 것 같음

  • 때로는 그런 현상이 중요하기도 함
    연구소 유출설을 말하기만 해도 낙인찍히던 때를 떠올려 보면 됨. 결국 주류 언론도 돌아섰지만, 그 과정에서 신뢰성을 크게 훼손했음. 이라크에 대량살상무기가 있다는 서사도 많은 사람이 직접 거짓으로 드러나는 걸 보며 자랐음. 이제는 아무것도 믿지 않음. 과학적 사고방식을 갖고 있으면 스스로 판단하고 미친 게 아니라는 확신을 어느 정도 가질 수 있어 다행이지만, 대부분에게는 그게 잘 작동하지 않는다는 게 핵심 문제로 보임
  • AI 텍스트 생성은 사용자가 요구하는 어떤 입장에 대해서도 논거를 만들어내는 데 매우 강해질 것임
  • 본질적으로 파레토 법칙임
    어떤 조직에서든 잘 조직된 소수는 조직되지 않은 다수나 나머지 사람들에게 힘을 행사함. 그래서 황당한 지방 조례 같은 게 생김. 작지만 잘 조직된 집단이 압력을 만들어 내고, 반대는 흩어져 있고 무관심함. 그 소수 집단이 너무 작지만 않다면, 오히려 작기 때문에 동조자나 유용한 바보 같은 더 큰 주변 지지층을 조직하기 쉬움. 토요일 오후에 함께 행진하면 주변부 아이디어가 다수 의견처럼 보이고, 관심 없던 사람들도 “그래, 뭐든” 하게 됨

• 개인적으로는 “리트윗” 기능이 아예 없는 소셜 미디어를 선호함
  내가 팔로우한 사람들의 실제 원본 업데이트를 보고 싶지, 뉴스든 가짜 뉴스든 연쇄 편지든 보고 싶지 않음

  • 그러면 새로 팔로우할 계정을 찾기 어려워짐
    내가 팔로우하는 계정의 대다수는 이미 팔로우하던 사람이 리트윗하거나 Mastodon에서는 부스트해서 발견했음
  • Twitter의 리트윗은 공식 기능보다 먼저 있었고, 예전에는 사람들이 리트윗하려는 메시지 앞에 “RT @username”을 붙였음
    그래서 이걸 완전히 막을 수 있을지는 모르겠음
  • 리트윗은 원 출처까지 이어지는 연관 사슬을 만들기 때문에 대안보다 나을 수도 있음
    문제는 사람들이 실제 증거 없이 “X가 일어나고 있다고 들었다!” 같은 원 출처를 무비판적으로 믿는 데 있음
  • 리트윗은 원래 Twitter 기능이 아니었고, 처음에는 사용자가 “RT @user Their tweet”라고 쓰는 관습이었음
  • 별로 말이 안 됨. 사람들은 그냥 글을 복사하거나 게시물 링크를 걸 것임

• 아주 오래전으로 돌아가 보면, 낯선 사람들이 야생에서 만나 서로를 경계하는 상황을 상상할 수 있음
  위협인지 잠재적 친구인지 판단하려면 신뢰를 세워야 했음. 어디서 왔는지, 누구를 아는지, 우리가 아는 사람이 겹치는지, 거짓말을 하는지 같은 것들임. 초기 신뢰망은 타인에 대한 개인적 지식에 기반했음. 비슷한 신뢰의 그물이 다시 나타나야 한다고 봄. 누군가를 보증하고, 그 사람이 망치면 보증한 사람도 영향을 받는 구조임. 신뢰의 원 안에 늑대를 들여보내면 관계 그래프가 무너질 수 있다고 생각해 보면 됨
  신뢰 원이 손상되면 통째로 잘라낼 수 있다면, 더 진짜 같은 웹을 되찾을 수도 있음. 쓰레기 광고나 블로그 스팸을 보면 그걸 품은 원의 콘텐츠를 더 이상 보지 않는 식으로 벌점을 줌. 작은 원들이 다른 원과 이어지고, 첫 번째 원에서는 실제로 아는 사람도 있음. 일종의 새로운 웹링임. 인터넷으로 가는 유일한 관문이 내 링과 관련 링뿐이라면 반향실이 생길 수 있지만, 즉각적인 링에서 악성 행위자를 제거하는 능력도 얻을 수 있음. 가짜 뉴스 선전이 나오면 늑대가 제거될 때까지 링과 모든 구성원이 벌점을 받는 식임

  • 신뢰할지 판단해야 한다고 해도, 사람들은 그냥 좋은 옷을 입고 단정하게 차려입으면 됨
    제복까지 입으면 보너스고, 모두가 신뢰할 것임. 누구를 믿어야 하는지 아는 건 인간의 강점이 아니었음
  • 내 관점에서는 웹 비유가 바로 실패함
    어떤 사람을 한 주제에서는 신뢰해도 다른 주제에서는 눈을 굴릴 수 있음. 그 신뢰는 변하고, 실제로 자주 변함. 때로는 상대가 변해서고, 때로는 내가 변해서임. 적어도 나에게는 하나의 노드에 수없이 깜빡이는 깊이 1짜리 연결이 붙어 있는 모습에 가까움
    대부분도 꼭 자각하지는 못해도 비슷한 사고방식일 것 같음. 모두가 겉으로는 이기길 원하는 후보에게 투표하는 민주주의가 있는데, 의회 지지율은 한 자릿수에 가까워짐. [1] 자기 편과 그 정당이 모두 권력을 잡고 있어도 극도로 불만족하기 때문에 가능한 일이고, 그렇지 않다면 적어도 50% 근처는 유지됐을 것임
    [1] - https://news.gallup.com/poll/1600/congress-public.aspx
  • 중국의 사회 신용 시스템이 떠오름
  • 의견을 신뢰에 기반해 만들면 안 됨
  • 우리는 한 세기 넘게 대중사회에서 살아왔음
    개인은 더 이상 존재하지 않음. 모든 사람이 주로 대중매체와 학교의 대량 주입 교육으로 형성되기 때문임. 존재하는 소수의 개인은 초공유자처럼 과도한 영향력을 행사할 수 있음

• “가짜 뉴스”라는 용어는 너무 넓고 이념적 포지셔닝, 언어적 과잉, 독선적이고 순진한 현실주의가 뒤섞여 있어서 사실상 금지해야 할 정도임
  사람들이 읽고 공유하는 것에 더 비판적이게 만들려는 목적처럼 보이지만 실제로는 반대로 작동함. 출처를 나쁜 것과 좋은 것으로 딱지 붙일 뿐이고, 이는 선전에 매우 가까움. 가짜 뉴스/좋은 뉴스라는 이분법보다 훨씬 더 미묘한 분류가 절실함

  • 나쁜 과학이거나, 어쩌면 언론이 편집으로 덧칠한 것처럼 보임
    모든 정보 확산이 멱법칙을 따른다는 건 전혀 뜻밖이 아님. 정치, 분노 유발, 기술 토론, 중립적이고 지루한 뉴스 같은 정보 범주를 비교했다면 흥미로운 말을 할 수 있었을 것임. 하지만 이건 대체로 가치 판단에 기반한 좁은 범주의 허위정보에만 초점을 맞춤. 특정 정보 유형들이 위상적 속성에서 어떻게 다른지 알 수 있다면 훨씬 흥미로울 것임

• 지난 몇 년간 여러 트윗을 유료 홍보해 봤는데, 피드의 거의 모든 것을 리트윗하는 듯한 일정 비율의 사용자가 꾸준히 보였음
  내 콘텐츠는 틈새 분야라 보통 독자가 매우 적기 때문에, 내 트윗에 반응한 사람을 살펴보면 이런 맹목적 리트윗 계정이 매우 튐. 내가 본 행동은 글의 내용과 일치함. 리트윗 폭주 시점은 실제 사람이 버튼을 누르는 것을 꽤 잘 시사할 수 있고, 실제로 그렇다고 의심함. 개별 트윗 단위로 독자가 적은 아주 황당한 가짜 뉴스를 긴 꼬리에서 살펴보면, 그런 명백한 허위에 대한 리트윗 대부분이 이런 맹목적 리트윗 계정에서 나오는 것도 놀랍지 않음
  전체 효과는 이런 사용자가 속한 거품이 부조리까지 포함해 조금 증폭되는 정도지만, 정말로 인기 있어지는 데 어떤 역할을 하는지는 회의적임. 진짜 문제는 더 미묘함. 맹목적으로 누르지 않는 사람들까지 속는 덜 명백한 가짜 뉴스, 많은 사람이 그럴듯하다고 느껴 큰 독자를 얻는 덜 명백한 가짜 뉴스, 반박이나 사실 확인으로 인기가 식은 뒤에도 집단 무의식 속에 남는 속임수가 더 큼. 완전한 헛소리를 반복하는 초전파자의 효과는, 실제로 주류가 되는 거의 그럴듯한 헛소리의 효과에 비하면 미미하다고 봄

  • 최근 1/9/90 법칙이 떠올랐음
    이 법칙은 소셜 네트워크나 리뷰 사이트에서 사용자 1%만 콘텐츠를 적극적으로 만들고, 9%는 댓글·평가·공유로 참여하며, 나머지 90%는 반응 없이 보고 읽는다고 봄. 내 경험도 그렇고, HN에서도 다수는 잠복 독자임. 잠복만 하면 무언가를 별생각 없이 소비할 가능성이 훨씬 높다고 봄. 무언가를 정말 알려면 가르쳐 봐야 한다는 격언처럼, 적어도 설명할 수 있어야 하는데 수동성 속에서는 일어나지 않음. 대화 속에서 일어남

• 우리는 환원주의적 세계에 살고 있고, 그건 바뀌지 않을 것임. 다른 사람이 맞게 말했듯 탈출구는 더 나은 도구뿐임
  이제는 가짜 사람과 진짜 사람도 구분 못 하겠고, 정보 품질을 정확히 판단하는 건 더더욱 어렵음. 광고 기반 인터넷이 만든 시궁창이 여기까지 온 것이고, 출구는 보이지 않음
  위기에 처했거나 끝을 향해 가는 조직들과 많이 일해 봤음. 모두가 종반이라는 걸 알지만 계속 행진하는 시점이 옴. 사람들의 행동은 포템킨 마을 속 행동처럼 변함. 소련 말기가 그랬음
  앞으로 필요한 도구는 코딩과는 거의 상관없다고 봄. 실제 사람들로 이루어진 작은 신뢰 집단, 점진적 공유, 겹치는 관심사와 그룹, 한 번에 하나만 하는 기기들이 필요함. 그래서 나와 내 사회적 그룹이 사용량을 모니터링하고 최적화할 수 있어야 함. 이런 것들이 인간에게 작동한다는 걸 우리는 알고 있고, 수천 년 동안 해 왔음. HN에서 인기 있을 말은 아니겠지만, 종으로서 앞으로 나아가는 데 필요한 도구는 이것들임. 기술은 분명 도울 수 있지만, 우리 안에 새겨진 공유된 사회적·진화적 경험을 대체하는 데는 근처에도 못 감
  장기적으로 기술과 진보에는 낙관적이지만, 도구의 거대한 변화가 늘 그렇듯 헛소리를 걷어내고 사회 규범을 다시 적응시켜야 함. 우리는 이런 일을 여러 번 해 왔고, 앞으로도 그러길 바람

• “간단한 리트윗 제한은 이 정보의 확산을 억제하면서도 대다수 사용자에게는 거의 영향을 주지 않을 것”이라는 해결책은 좋음
  예전에 인도였던 것 같은데, WhatsApp이 플랫폼이 민족 폭력을 부추기는 데 쓰이자 한 번에 공유할 수 있는 사용자 수를 제한했음. 이런 연쇄적 바이럴성에 억제 장치를 두면 어떤 커뮤니케이션 네트워크든 제정신을 유지하는 데 도움이 될 수밖에 없음
  개인 계정이 아무 검증 없이 주요 TV 뉴스 방송국 수준의 속도로 방송하는 조합은 진실에 가까운 것을 만들어낼 수 없었음. 집단이 진실을 생산하는 전제는 대표성 있는 대중의 지혜 효과에 있음. 고도로 상관된 0.1% 사용자가 모든 논의를 흔드는 건 극도로 병적인 상태임
  가장 큰 문제는 바이럴 사용자를 제한하는 것이 영리 소셜 미디어 플랫폼의 사업 인센티브와 정면으로 어긋난다는 점이고, 특히 Twitter에서 그런 일이 일어날 것 같지는 않음

• “가짜 뉴스”를 없앨 방법은 없음
  그리고 없애고 싶지도 않을 것임. 많은 경우 사람들이 가짜 뉴스라고 부르는 건 반대 견해의 뉴스이기 때문임. 핵심은 사람들이 스스로 생각하고 모든 것을 질문하도록 교육하는 것임

  • 고학력자들도 가짜 뉴스와 사이비과학에 늘 속음
    해결책은 없고 교육이 분명 한 걸음 전진이긴 하지만, 문제는 훨씬 더 복잡함
  • 이 글은 반대 의견이 아니라 허위정보에 관한 것임
    사람들이 얼마나 자주 가짜 뉴스를 반대 의견으로 여기는지는 모르겠지만, 이 용어는 허위정보를 뜻하도록 정의되어 있음. https://en.wikipedia.org/wiki/Fake_news
    실제 허위정보를 퍼뜨리는 사람들이 자기 입장을 거짓말이 아니라 반대 의견이라고 주장하고, 자신들이 약자이며 반대 의견 때문에 배척당한다고 말하는 건 꽤 흔한 전술임
    사람들이 모든 것을 의심하게 만드는 것도 그들이 원하는 것의 일부임. 허위정보의 목표는 불신이고, 모든 것을 의심하는 건 너무 어려움. 예를 들어 Brandolini의 법칙을 보면 됨. 해결책은 모르겠지만, 나도 고학력자인데 허위정보 토끼굴에 빠진 사람들을 직접 알고 있음. 불신과 음모론은 한 번 자리 잡으면 신뢰할 만한 출처와 과학적 출처를 평가하는 능력을 망가뜨림. 교육이 핵심이라고 가정하면 안 됨. 가짜 뉴스는 매우, 매우 효과적이고 그래서 사람들이 그걸 하는 것임