미얀마에서의 Meta

 (erinkissane.com)
1P by GN⁺ | ★ favorite | 댓글 1개
  • 2010년대 초 미얀마의 인터넷 개방과 모바일 보급 폭증 속에서 Facebook은 많은 이용자에게 사실상 인터넷이 되었고, UN 미얀마 진상조사단 수석 조사관은 훗날 Facebook이 로힝야 위기에서 “결정적 역할”을 했다고 평가함
  • SIM 카드 가격은 2009년 약 2,000달러에서 2014년 1.50달러로 떨어졌고, 모바일 보급률은 2011년 인구의 0.25% 미만에서 2017년 90% 이상으로 급증해 Facebook 확산의 토대가 됨
  • 2011~2014년 Facebook에는 로힝야를 부정하고 비인간화하며 폭력을 부추기는 콘텐츠가 퍼졌고, 2012년 라카인주 폭력과 2014년 Mandalay 폭동에서 소문·가짜 주장·혐오 발언이 오프라인 폭력과 결합함
  • 미얀마 시민사회, 인권 전문가, 언론인은 2012년부터 2015년까지 Meta에 반복적으로 경고했지만, 실제 대응 권한을 가진 팀으로 이어지지 않았고 2015년 말에도 버마어 모더레이터는 4명뿐이었음
  • Meta는 Facebook이 미얀마의 민족 갈등을 악화시킨다는 구체적 사례를 여러 차례 받았지만, 대규모 모더레이션 확충·최악 행위자 영구 차단·폭력 선동 확산 억제 같은 근본 조치 없이 2016년 더 많은 미얀마 이용자를 Facebook으로 끌어들이는 단계로 넘어감

인터넷 개방과 Facebook의 급부상

  • 2011년 미얀마에서 더 민주적인 정권이 들어서며 인터넷과 표현에 대한 제한이 점진적으로 완화됨
  • 오랜 군사 통제에서 벗어난 사람들에게 인터넷 개방은 큰 기대감을 줬고, 현지 디지털 포용 NGO와 기술 활동가들도 새 온라인 환경을 긍정적으로 받아들임
  • 모바일 접근성은 몇 년 사이 급격히 바뀜
    • SIM 카드 가격은 2009년 약 2,000달러, 2012년 250달러, 2014년 1.50달러로 하락함
    • 모바일 보급은 2011년 인구의 0.25% 미만에서 2017년 90% 이상으로 증가함
    • 스마트폰과 인터넷 사용도 모바일 혁명과 함께 급증함
  • Craig Mod의 2015년 농촌 인터넷 민족지 작업에는 전기 없이 자동차 배터리로 스마트폰을 충전하고, 선불 충전권을 긁어 데이터를 쓰는 환경이 등장함
  • 이런 조건에서 Facebook은 뉴스, 정치 업데이트, 관심사 검색, 친구·낯선 사람과의 대화를 모두 담는 플랫폼이 되었고, 한 휴대폰 가게 주인은 “Facebook is the Internet”이라고 말함

Facebook이 ‘인터넷’이 된 방식

  • Facebook은 경쟁 서비스보다 데이터를 덜 쓰는 간소화된 앱을 제공했고, 미얀마에 진입한 외국 통신사 중 강한 사업자였던 Norway의 Telenor는 Facebook을 제로레이팅함
  • 제로레이팅은 특정 인터넷 서비스의 데이터 요금을 면제하는 방식이며, Telenor 고객은 Facebook을 무료로 쓸 수 있었음
  • Meta 내부 고발자 Frances Haugen은 2021년 인터뷰에서 Facebook이 여러 언어권에서 자사 플랫폼 사용을 보조해 “인터넷이 되는 특권”을 샀고, 그 결과 많은 언어에서 콘텐츠의 80~90%가 Facebook에 존재하게 됐다고 말함
  • 미얀마 시민사회 조직들은 급속한 연결이 자유뿐 아니라 위험도 가져온다고 봄
    • 많은 이용자가 인터넷을 단계적으로 익히지 못한 채 “인터넷에 있으면 맞다”는 인식으로 접근함
    • 미얀마의 정치 상황은 이미 불안정했고, 군부 Tatmadaw는 여러 소수민족 무장 세력과 긴 내전을 치르고 있었음
    • Meta의 미얀마 관련 의사결정은 이 두 조건에 맞춰 조정되지 않음

2012년 이전부터 존재한 혐오의 기반

  • 2012년 1월 대규모 사면으로 두 인물이 석방됐고, 이후 서로 반대되는 역할을 하게 됨
    • Nay Phone Latt는 2007년 Saffron Revolution 관련 블로깅으로 수감됐던 초기 블로거이자 디지털 권리 활동가였고, 이후 MIDO를 공동 설립해 시민들이 새 인터넷의 혜택을 얻도록 돕고 온라인 혐오 캠페인에 대응함
    • Ashin Wirathu는 미얀마 무슬림 공동체에 대한 폭력 선동 설교로 2003년 수감된 불교 승려였고, 이후 강경 불교 민족주의 운동을 디지털화해 반무슬림 폭력 확산에 중요한 역할을 함
  • 2013년 미얀마 첫 Internet Freedom Forum에서는 인터넷 자유와 개인정보 보호가 논의됐지만, 동시에 Facebook에서 로힝야에 대한 혐오 발언이 늘어나는 현상이 포착됨
  • MIDO 공동창립자 Htaike Htaike Aung은 미얀마 사람들이 인터넷을 점진적으로 배운 나라들과 달리 갑작스럽게 온라인에 들어왔고, “인터넷에 있으면 맞다”는 태도 때문에 선전과 잘못된 의제에 취약하다고 봄
  • 2011년에도 BBC Burmese Facebook 페이지에는 로힝야를 미얀마의 민족 집단으로 표시한 데 대한 폭력적 댓글이 쏟아졌고, 댓글에는 추방·살해·방화 같은 표현이 포함됨
  • Nay Phone Latt는 2014년 혐오 발언이 사람들의 마음에 독을 붓고 있으며, 때가 되면 폭발할 수 있다고 우려함

로힝야와 부정된 존재

  • Médecins Sans Frontières는 로힝야를 대부분 무슬림인 무국적 민족 집단으로 보며, 이들이 수세기 동안 불교 다수국인 미얀마의 라카인주 북부를 중심으로 살아왔다고 설명함
  • 미얀마 당국은 이를 부정하고 로힝야를 20세기에 들어온 Bengali 이민자로 주장함
  • UN은 2013년 로힝야를 세계에서 가장 박해받는 소수민족 중 하나로 묘사했고, 미얀마 법은 이들에게 시민권을 인정하지 않음
  • 미얀마의 여러 정부는 로힝야의 존재 자체를 인정하지 않았고, “Bengali” 불법 이민자로 지칭함
  • 이 맥락에서 로힝야는 실제로 존재하며 오래도록 강한 제한 아래 살아왔고, 미얀마의 불교 정치 주류에는 인종적 순수성과 안보에 대한 공개적 관심이 있었음

2012년 라카인주 폭력과 온라인 선동

  • 2012년 5월 28일 라카인주에서 불교도 라카인 여성 Ma Thida Htwe가 살해됐고, 다음 날 신문은 그녀가 “kalars”에게 강간·살해됐다고 보도함
  • UN 미얀마 진상조사단은 살인은 명확하지만 강간 주장과 용의자의 민족적 배경은 의문으로 남아 있으며, 이후 며칠과 몇 주 동안 살인보다 강간 주장이 로힝야에 대한 폭력과 혐오 선동에 주로 쓰였다고 봄
  • 6월 1일 미얀마 대통령 대변인 Zaw Htay는 Facebook에 “Rohingya terrorists”가 무기를 들고 국경을 넘어온다는 경고를 게시함
  • 6월 3일에는 한 민족주의 불교 단체가 무슬림이 불교 여성들을 공격한다는 전단을 배포했고, 같은 날 버스에 탄 로힝야 남성 10명이 끌려나와 구타로 살해됨
  • 이후 이어진 군사·공동체 폭력에서는 라카인과 로힝야 양쪽 모두 살인과 방화를 저질렀지만, 피해의 무게는 로힝야에게 집중됨
    • UN 조사 결과는 주택 방화, 약탈, 여성·아동·노인을 포함한 초법적·무차별 살해, 군·경의 대규모 자의적 체포와 고문을 기록함
    • 10만 명 이상이 집을 떠나야 했고, 대부분은 로힝야였음
  • 2012년 10월의 다음 폭력 물결에는 조직적 계획의 증거가 있었고, Human Rights Watch는 지역 Arakanese 정당 활동가, 불교 승려 집단, 일반 Arakanese가 조직·선동·가담했으며 때로는 국가 보안군이 직접 지원했다고 기록함
  • 10월 최악의 공격에서 경찰과 Tatmadaw 병사들은 로힝야 마을 주민들의 막대기 등 조잡한 무기를 미리 압수했고, 라카인 군중이 하루 동안 최소 70명의 로힝야를 살해하는 동안 방관함
    • Human Rights Watch는 이 공격에서 28명의 아동이 살해됐고, 그중 13명은 5세 미만이었다고 기록함

Facebook을 통한 혐오 확산

  • Amnesty International 인터뷰에서 로힝야 교사이자 난민인 Mohamed Ayas는 2012년 공동체 폭력이 반로힝야 수사, 박해, 결국 집단학살로 이어지는 전환점이었다고 말함
  • 미얀마 기반 정치 분석가 Richard Horsey는 과거에도 불교도 집단의 무슬림 집단 대상 폭력이 있었지만, 새롭게 달라진 점은 정보가 Facebook과 휴대폰을 통해 쉽게 전달되고 증폭된다는 점이라고 설명함
  • 2012년 6월 Sai Latt는 반로힝야 혐오 캠페인이 소셜미디어에서 공개적으로 조직된 공공·초국적 운동이며, Facebook 벽과 페이지 수천 곳에 댓글과 게시물이 깔렸다고 기록함
  • “Kalar Beheading Gang” 같은 Facebook 그룹이 계속 등장했고, 국제 언론에도 해당 페이지가 보도됨
    • 2012년 6월 14일 Hindustan Times 보도 시점에 이 페이지는 이미 500개 이상의 좋아요를 얻음
  • 온라인과 오프라인에서 반복된 핵심 메시지는 로힝야가 진짜 민족 집단이 아니라 불법 “Bengali” 이민자이고, 불교도보다 더 많이 번식하는 비인간적 존재이며, 테러리스트와 구분되지 않고, 불교 여성과 미얀마 전체에 즉각적 위협이라는 내용이었음

Ashin Wirathu와 Facebook 기반 선동

  • Ashin Wirathu는 Facebook을 적극적으로 활용한 강경 불교 승려였고, 첫 계정은 Facebook 모더레이터에 의해 커뮤니티 기준 위반으로 삭제됐다고 말함
  • 두 번째 계정은 친구 5,000명까지 빠르게 성장했고, 이후 새 페이지를 만들고 전담 직원 2명을 고용해 사이트를 시간 단위로 업데이트함
  • BuzzFeed News 인터뷰 시점에 그는 Facebook 계정 팔로워 19만 명, 뉴스 Facebook 페이지, 수십 개 페이지를 운영하고 있었고, 무슬림 상점 불매와 무슬림 추방을 요구함
  • 2013년 Global Post 인터뷰에서 Wirathu는 무슬림이 미얀마를 이슬람 국가로 만들려 한다고 주장했고, 당시 무슬림은 미얀마 인구의 약 5%였음
  • 2013년 Time은 국제판 표지에 Wirathu를 “The Face of Buddhist Terror”로 실었고, 그는 기사에서 미얀마 무슬림의 90%가 “radical bad people”이라고 말함
  • 한 NGO는 2012년 10월 이후 라카인주의 거의 모든 주요 공동체 폭력 발발 전에 969 후원 설교 순회가 있었고, 대개 Wirathu가 직접 관여했다고 기록함
  • Wirathu는 BuzzFeed News에 인터넷이 없었다면 자신의 의견과 메시지를 지금처럼 많은 사람이 알지 못했을 것이며, 인터넷은 메시지를 퍼뜨리는 더 빠른 방법이라고 말함

Meta에 전달된 초기 경고들

  • 2012년 11월 MIDO 프로그램 디렉터 Htaike Htaike Aung은 Azerbaijan 원탁회의에서 Meta의 Global Public Policy Director와 Europe Policy Director에게 Facebook 내 혐오 발언 확산을 알림
  • 2013년 10월에는 Indonesia 원탁회의에서 “rising inter-communal tensions” 맥락으로 같은 우려를 다시 제기했고, 이 자리에는 Meta 정책 임원 3명이 참석함
  • 같은 시기 MIDO와 Yangon 기반 기술 액셀러레이터 Phandeeyar 활동가·연구자들은 문제 콘텐츠 검토와 긴급 에스컬레이션 방법을 이메일로 문의했지만 Facebook은 응답하지 않음
  • 2013년 11월 언론인 Aela Callan은 Facebook의 Communications and Public Policy VP Eliot Schrage를 만나 Facebook의 반로힝야 혐오 발언과 이를 밀어 올리는 가짜 계정에 대해 경고함
  • Meta는 Callan을 Internet.org와 괴롭힘 중심 “Compassion Team”으로 연결했지만, 실제로 도움을 줄 수 있는 Facebook 내부 담당자와는 이어주지 못함
  • 2014년 3월 Htaike Htaike Aung과 Aela Callan은 RightsCon Silicon Valley 이후 Menlo Park를 찾아 Meta의 Compassion Team 구성원들에게 미얀마에서 Facebook 서비스가 초래할 위협을 다시 알림
  • 같은 달 Dangerous Speech Project의 Susan Benesch는 Meta를 위한 브리핑 콜을 조직했고, 미얀마 기반 인권 전문가 Matt Schissler는 Facebook에서 비인간화 메시지, 조작 사진, 허위정보가 퍼지고 있다고 설명함
    • Reuters에 따르면 Schissler가 제시한 예시 중 하나는 “We will genocide all of the Muslims and feed them to the dogs”라는 이름의 Burmese Facebook Page였음
    • Frenkel과 Kang의 책 _An Ugly Truth_는 Meta 직원들이 이 문제를 고등학교 사이버불링 대응 도구와 같은 접근으로 해결할 수 있다고 봤다고 전함

2014년 Mandalay 폭동과 Facebook의 무응답

  • 2014년 Mandalay 폭력에는 시민사회 감시자들이 우려하던 요소가 모두 들어 있었음
    • 무고한 무슬림 남성 2명이 불교 여성을 강간했다는 거짓 고발을 받음
    • 선정적 뉴스 보도가 폭증함
    • Ashin Wirathu가 이 이야기를 자기 대의에 활용함
    • Facebook에는 거짓 보도와 폭력 요구가 퍼짐
  • 폭력이 악화되자 미얀마 대통령 대변인 Zaw Htay는 Deloitte 미얀마 대표에게 Meta와 연락할 수 있게 도와달라고 요청했지만, 밤새 연락을 시도해도 응답을 받지 못함
  • 폭동 3일째 정부는 Mandalay에서 Facebook 접속을 차단했고, 차단 이후 폭동은 잦아듦
  • Facebook이 차단되자 Meta 직원들은 왜 Facebook이 막혔는지 묻는 이메일을 보내기 시작함
  • 몇 달 전 일부 Facebook 직원들은 미얀마 시민사회 전문가들이 문제를 직접 알릴 수 있도록 비공개 Facebook 그룹을 만들었지만, Mandalay에서 거짓 보도와 폭력 선동이 퍼질 때 활동가들과 서구인들이 경고해도 Facebook은 응답하지 않음
  • 한 그룹 구성원은 폭동에 대한 메시지에는 Facebook이 아무 말도 하지 않았지만, 인터넷이 차단되고 사람들이 Facebook을 잃자 즉시 답장을 보냈다고 말함

번역과 신고 도구, 그러나 부족한 모더레이션

  • 2014년 Mandalay 폭력 몇 주 뒤 Facebook의 Asia-Pacific 정책 디렉터 Mia Garlick은 처음으로 미얀마를 방문함
  • Garlick은 패널 토론에서 Meta 정책을 논의하고 Facebook Community Standards의 버마어 번역을 빠르게 하겠다고 약속함
  • 이 번역 작업은 14개월이 걸렸고, 결국 비공개 Facebook 그룹의 Phandeeyar 측 도움에 의존함
  • 2014년 Meta는 혐오 발언과 문제 콘텐츠 신고 도구를 현지화하기로 했고, MIDO 등 미얀마 시민사회 인사들과 번역·조정을 거쳐 연말까지 출시함
  • 하지만 Burmese-language 신고 도구로 들어오는 모든 내용을 검토할 버마어 가능 모더레이터는 Dublin에 있는 계약자 1명뿐이었음
  • Htaike Htaike Aung과 Victoire Rio는 이 버마어 신고 도구를 “a road to nowhere”라고 표현함

2015년에도 계속된 경고

  • 2015년 2월 Susan Benesch는 Facebook의 Compassion Day에서 “The Dangerous Side of Language” 발표를 했고, 법적 문서에 따르면 이 발표는 Facebook을 통해 반로힝야 발언이 퍼지는 방식을 설명함
  • 2015년 3월 Matt Schissler는 Menlo Park를 방문해 Facebook 직원 12명 이상에게 미얀마의 새 미디어, 특히 Facebook과 반무슬림 폭력에 대해 발표함
    • Frenkel과 Kang은 그의 발표가 “Facebook의 혐오 발언이 미얀마의 실제 폭력으로 이어지고 사람들을 죽게 하고 있다”는 심각성을 문서화했다고 정리함
    • Schissler가 Facebook이 미얀마에서 집단학살에 기여할 수 있느냐는 질문에 “Absolutely”라고 답하자, 한 Facebook 직원은 “그건 가능하지 않다”는 취지로 반응함
  • 2015년 5월 Phandeeyar 창립자 David Madden은 Menlo Park에서 Meta에 미얀마의 위험한 동학을 경고함
    • Madden은 Amnesty International 인터뷰에서 Facebook 내부 사람들이 미얀마의 정치 상황을 제대로 이해하지 못한다고 느꼈다고 말함
    • Meta와의 회의에서는 구체적 위험 콘텐츠 사례를 논의했고, Facebook이 미얀마에서 Rwanda의 라디오와 같은 역할을 할 수 있다고 비유함
  • 2015년 9월 Mia Garlick은 Facebook의 버마어 Community Standards를 출시하기 위해 미얀마에 왔고, Phandeeyar는 미얀마 전역의 시민사회 리더 15명 이상을 모아 구체적 사건과 행위자를 브리핑함
  • Victoire Rio에 따르면 여러 시민사회 리더는 Garlick에게 Facebook Community Standards가 미얀마에서 집행되지 않고 있다고 직접 말함
  • Reuters에 따르면 2015년 Facebook의 버마어 가능 모더레이터는 총 2명이었고, 연말까지 4명으로 늘어남

2015년 말의 상태

  • 2015년 말까지 Meta는 국제 시민사회 전문가와 미얀마 정부 모두가 Facebook이 2014년 Mandalay 폭동에서 중요한 역할을 했다고 본다는 사실을 알고 있었음
  • 여러 시민사회·인권 단체는 Facebook이 민족 갈등을 악화시키고 있다고 반복해서 경고함
  • Meta는 대량 살해와 집단학살을 직접 요구하는 게시물·댓글을 포함해 비인간화 콘텐츠 사례를 여러 차례 전달받음
  • David Madden은 Meta 직원들에게 Facebook이 미얀마에서 Rwanda의 라디오가 했던 역할을 할 수 있다고 직접 말함
  • 그러나 Meta는 모더레이션 역량을 크게 늘리거나, 알려진 최악의 행위자들을 영구 차단하거나, 증오와 폭력 선동 게시물의 확산을 안정적으로 낮추는 근본적 제품 설계 변경을 하지 않음
  • 다음 단계는 2016년에 더 많은 미얀마 사람들을 Facebook에 올리는 것이었고, 이어지는 글은 Part II: The Crisis로 연결됨

함께 보면 좋은 글 β

GN⁺   [-]
Hacker News 의견들

  • 미얀마에 사는 친구들이 있는데, 현지 상황은 기사보다 훨씬 더 나빴다고 확인할 수 있음
    참수하거나 최소한 “저 하층민들을 몰아내자”는 식의 혐오 발언 게시물만 계속 보이면, 혐오가 정상화되고 피해자들이 비인간화됨
    역사에는 이런 잔혹행위가 많았고, 표현의 자유는 중요하지만 폭력 선전은 실제 문제임. 미국에서도 일부 보임
    기사를 안 읽는 사람들을 위해 덧붙이면, 많은 마을이 불탔고 그 전에 여성들이 강간·살해당했으며, 마을 전체가 약탈당한 뒤 사람들이 죽고 마을이 불탔음. 목표는 피해자들이 자기 나라를 떠날 수밖에 없도록 공포를 만드는 것이었고, 실제로 그렇게 됨

    • 왜 우리는 표현의 자유에는 집착하면서 “행동의 자유”를 설교하는 사람은 거의 못 듣는지 물어봐야 함
      왜 말과 표현에만 임의로 제한을 두는가? 행동은 타인에게 해를 끼칠 수 있으니 마음대로 하게 둘 수 없지만, 말은 남을 해칠 수 없다는 “막대기와 돌” 원칙 때문에 뭐든 말하게 해야 한다는 식임
      결국 표현의 자유 전체가 그런 불안정한 원칙 위에 서 있는 셈임
    • 쿠데타 이후에도 네가 말한 일들이 다시 벌어지고 있고, 세상은 또다시 알아차리지 못할 것임
    • 이건 인종 청소이고, 효과가 있으며 처벌을 피할 수 있다는 걸 이미 알고 있음
      이스라엘 초기 건국 세력도 그렇게 했고, 수십만 팔레스타인인이 도망쳐 지금까지 난민으로 남아 있음. 그런 전략을 실행한 일부는 이후 이스라엘 사회의 지도자가 됨
      https://en.m.wikipedia.org/wiki/Deir_Yassin_massacre
      https://en.m.wikipedia.org/wiki/List_of_Irgun_members
    • 이건 표현의 자유 문제가 아니라, 혐오를 알고리즘으로 증폭한 문제임
    • 미얀마의 사법 시스템에서 어느 부분이 실패했는지 궁금함
      신원이 대중에게 알려진 사람들이 카메라 앞에서 강간하고 살해해도 어떻게 감옥에 가지 않을 수 있는가?

  • 이 글은 조사도 훌륭하고 읽을 가치가 큼. 알고리즘 기반 플랫폼이 사라지지 않을 것이기 때문에, 사회적으로 배워야 할 사건을 잘 정리했음
    이 스레드에서 “표현의 자유” 주장이 나오는 건 이상함. 기사를 안 읽은 것 같고, 글에는 붐비는 극장에서 불이 났다고 외치는 것과 동급인 발언 사례가 여러 개 나열되어 있음

    • 기사도 읽었고 훌륭했으며, 당시 Facebook에 문제를 계속 제기하던 시민사회 단체들과 같은 공간에 있었음
      Kissane이 말하듯 미얀마는 개혁 이후 아주 빠르게 온라인화됐고, Facebook 내부뿐 아니라 Facebook에 접근성이 좋던 인권 단체에도 버마어 구사자가 부족했음
      중동이나 중국의 사례와 달리, 미얀마는 권위주의적 억압의 지속이라기보다 억압에서의 “해방”처럼 보였기 때문에 기술 회사들이 배우던 대응 틀에 잘 맞지 않았음. 몇 년 전 Arab Spring과 이란 시위로 Facebook과 Twitter는 책임을 어느 정도 인식하기 시작했지만, 그 결과는 세계의 억압을 보는 매우 미국 중심적 관점이었음
      노벨평화상 수상자이자 민주주의 수호자인 Aung Sang Suu Shi가 이끄는 나라에서 불교도가 무슬림을 폭력적으로 학살한다는 서사는, 미국과 유럽의 정치·문화적 전제를 많이 거슬러야만 들릴 수 있었음
      “붐비는 극장에서 불이 났다고 외치기”라는 표현은 역사적으로 대규모 폭력을 막으려던 사람들을 “문제아”로 보고 침묵시키는 데 쓰였다는 지적도 가능함
      다만 당시 Facebook 등의 실패는, 사람들이 예의 있는 토론과 “진실”만 논의되는 장을 조절해 제공할 수 있다고 주장했기 때문에 생겼음. 표현의 자유 단체와 현장 인도주의 단체 모두 Facebook은 그런 역할을 할 수 없고 해서도 안 된다고 주장했으며, Facebook이 그 책임을 질 수 있다고 주장할수록 결과는 더 끔찍해졌음
    • 기사 대부분을 읽었지만, 저자의 전제에는 동의하기 어려움
      소셜 미디어는 그 사회적 연결망이 흥미롭거나 가치 있다고 여기는 것을 증폭할 뿐임. 사회가 어떤 지독한 혐오 글쓴이를 흥미롭다고 여기면 그 사람의 콘텐츠가 강화됨
      수십 년 군부 독재가 있었고 수십 년 싸움이 있었다면, 각 집단이 소셜 미디어에서 경쟁자를 칭찬하지 않는 건 놀랍지 않음
      저자는 명백한 문제를 한 번도 제대로 다루지 않음. 이건 발언 제한이나 Facebook 탓이 아니라 항상 추천 알고리즘의 문제였음
      알고리즘을 없애거나 끄면, 이 글의 근거는 사실상 사라짐

  • 여기서 Kissane이 제시하는 이유만으로 Meta 공격이 정당화되지는 않는다고 봄
    2018년 당시 미얀마 군부가 아기와 아이들을 포함한 로힝야 수천 명을 살해하고, 더 많은 사람들을 구타·강간·고문·굶주림·감금에 몰아넣었으며, 로힝야 약 75만 명이 방글라데시의 질병이 만연한 거대한 난민캠프로 도망쳤다는 단락이 있음
    그건 현장의 상황이고, 나라는 화약고였으며 악이 작동하고 있었음. 2부에서 더 맥락이 나올 수는 있지만, 외부 관점에서 이걸 Facebook 책임으로 돌리는 건 무리로 보임. Facebook이 구타·강간·살해를 요구한 것은 아님
    Facebook 경영진이 홍보 리스크를 신경 쓰고 조치를 할 수는 있었겠지만, 그러면 다른 문제가 생김. Facebook이 집행해야 할 기준은 정확히 무엇인가? 무의미한 살해에 책임 있는 모두를 금지해야 하나? 그렇다면 이라크전, 아프가니스탄, 베트남 같은 전쟁에 찬성표를 던진 미국 지도부도 포함되나? 결국 크고 강력한 회사가 불균등하고 주관적인 기준을 적용하게 됨
    핵심은 Facebook이 어떤 영향력을 행사하든 동일함. 민중의 의지와 Facebook 지도부의 의지가 근본적으로 다르다는 것이 문제임. 이 경우 민중의 의지가 유난히 악했지만, 문제는 어느 쪽이 그날 옳은지가 아니라 충돌과 Facebook의 영향력 위치임. 언젠가 Facebook은 악한 쪽에 설 것임

    • Facebook은 민족 폭력 선동 게시물을 제때 삭제하지 않았고, 오히려 알고리즘이 사용자 참여를 늘리려고 그런 격앙된 게시물을 밀어줬음
      Meta가 책임이 있는 이유를 이해하기 어렵지 않은데, 그 부분을 건드리지 않았음. Facebook은 무해한 메시지 중계기가 아님. 게다가 콘텐츠를 조정할 충분한 원어민 인력도 없었으니, 최악의 경우 과실임
      플랫폼에서 사람들이 인터넷을 향해 말하게 허용하는 데에는 책임이 따름. 표현의 자유는 절대적이지 않음
    • 반기술 성향 글에서 이 문제가 “Facebook이 잔혹행위를 일으켰다”로 바뀌는 걸 봤고, Facebook의 역할을 과장한다는 데에는 동의함
      그래도 Facebook의 행동이 비판에서 벗어나는 건 아님. 1부는 주로 수동적 무대응처럼 보이지만, 2부에는 당시 Facebook의 더 적극적인 행위가 나올 것 같아 궁금함
      자기 정책을 집행하지 않는 것도 행위이고, Facebook은 이 점에서 매우 유죄로 보임
    • Facebook이 이런 결정을 내리기에 좋은 위치가 아니라는 데에는 완전히 동의하지만, 이라크전 설계자들은 거의 아무런 대가를 치르지 않았음
      Facebook이 Bush를 금지해도 화나지는 않을 것 같음. 원칙에는 동의하지만, 예로 든 사례는 오히려 편하게 받아들일 수 있는 쪽임
      참고로 Facebook은 다른 전직 대통령을 금지한 적이 있으니, Facebook의 영향력 위치에 관한 요지는 맞음
    • Facebook은 사실상 르완다의 라디오 방송국과 같은 역할이었음
      차이는 Facebook이 충분한 자원을 배정했다면 노골적인 콘텐츠를 제거할 수 있었다는 점임
      그랬다고 살해가 멈췄을까? 분노 확산을 늦췄을 수는 있음
    • 당시 여러 NGO가 Facebook에서 집단학살이 조율될 가능성을 알리려 했지만, Facebook은 개입하지 않았음
      게다가 Facebook은 수동적 게시판이 아니라, “참여”가 높은 게시물을 최대한 많은 사용자에게 적극적으로 노출하는 플랫폼임
      표현의 자유와 아이디어의 자유로운 교환을 소중히 여기면서, 전쟁과 폭력을 선동하는 수상한 웹사이트가 존재할 수밖에 없다는 것도 받아들여야 함. 동시에 대중매체는 자기 행동에 책임져야 함
      Facebook 운영자는 그런 수상한 웹사이트 운영자와 똑같이 책임져야 함. 여기서는 철학적 논쟁이 아니라 문자 그대로의 법적 개인 책임을 이야기해야 함
      당시 Facebook은 웹 포럼을 대체하려고 했고, Arab Spring의 흐름을 등에 업고 세상을 바꿀 수 있으며 그럴 정치적 영향력도 있다고 말할 기회를 놓치지 않았다는 점도 기억해야 함

  • 표현의 자유를 싫어하는 사람들에게 말하고 싶음. 나는 그곳에 살고 있고, 다음 같은 이유만으로 너와 가족이 살해·구금·고문당할 수 있을 때 표현의 자유가 얼마나 가치 있고 중요한지 절대 모를 것임
    Hunger Games의 3 finger salute를 했다는 이유만으로
    진실을 세상에 알리려고 텅 빈 도시 사진을 올렸다는 이유만으로
    BBC 기자에게 답했다는 이유만으로

  • 미얀마에 대해서는 모르지만, 매체·메시지·참여자의 역할을 혼동하거나 편향되게 봐서는 안 됨
    인도에서는 가장 많은 유해 메시지가 WhatsApp 그룹에서 흐르는 걸 봄. 이는 개인적인 공간이고 순위화나 추천 알고리즘이 없으며, 사람들이 메시지를 전달하는 것뿐임. 근본적으로는 사회 자체의 급진화가 커졌기 때문임

    • 문제는 규모임. 동료나 친구들의 WhatsApp 그룹은 도달 범위와 노출이 매우 제한적임
      사람들은 갑자기 급진화되어 깨어나는 게 아니라, 어떤 커뮤니케이션 매체를 통해 다른 사람들에게 소개되고 세뇌됨
      Facebook은 가장 클 뿐 아니라, 추천 알고리즘으로 선동적 콘텐츠를 강화하고 홍보한다는 점이 겹침
    • 미얀마 출신이고 동의함

  • 이 글의 핵심은 100문단쯤 뒤에 나오는 2014년 상황 묘사라고 봄
    Facebook에는 들어오는 모든 것을 검토할 버마어 가능 조정자가 단 한 명뿐이었고, 더블린에 있는 계약직이었다는 내용임
    버마어는 세계에서 43번째로 많이 쓰이는 언어라서, Facebook이 조정자 채용에 어려움을 겪었다는 게 놀랍지만은 않음
    http://www2.harpercollege.edu/mhealy/g101ilec/intro/clt/cltclt/top100.html
    슬픈 이야기임. “표현의 자유”가 답이었으면 좋겠지만, 이건 플랫폼이 강도 높은 인간 조정을 하지 못했을 때 생기는 아주 섬뜩한 하류 결과임

    • 이게 잘 이해되지 않음. 미국에서도 이런 대규모 조정을 어떻게 수행할 수 있나? 인터넷 전체도 조정해야 하나?
      인터넷은 항상 각 커뮤니티 안에서 조정되어 왔음. 포럼이든 페이지든 그룹 채팅이든, 자기 커뮤니티 조정은 운영자 책임. 교회, 배구 클럽, 학교도 마찬가지임
    • 2022년 순이익이 230억 달러였음. Meta는 의도적으로 강도 높은 인간 조정을 하지 않는 것이고, 집단학살보다 이익을 더 중요하게 둠
      변명의 여지가 없음
    • “하류 결과”라고 했는데, 강도 높은 조정의 부재가 집단학살로 이어진다는 뜻인가? 그런 일이 일어나지 않은 사례를 백만 개는 댈 수 있음
      조정자들로 가득한 창고가 어느 날 출근하지 않는다고 해서 곧바로 집단학살이 생기지는 않음. 답은 대규모 무차별 삭제 조정이 아님
      훨씬 나은 생각은 오래된 방식의 투명성과 원자료임. 검열이 아니라, 화면 위아래에 정확하고 도움 되는 사실과 관련 정보를 붙여 맥락 정보를 개선하는 것임. 이는 유용하다고 입증됐고, 거짓 정보를 발생 시점에 실제로 균형 잡아줌
      사람들을 존중하려면 그렇게 해야 함. 폭력적 방식에서 교육과 교정이 필요한 사람들도 마찬가지임. 그들에게는 인터넷 전화가 있고, Meta/Facebook이 아니면 다른 무언가를 쓸 것임

  • 이 글은 읽어야 함. 시작하자마자 멈출 수 없었고, 보기보다 훨씬 빨리 읽힘. 아직 1부뿐이지만 정말 필수적임
    Kissane은 로힝야 집단학살의 배경과 Meta가 어떻게 불길에 적극적으로 부채질했는지를 간결하고 읽기 쉬우며 끔찍하게 정리했음
    Meta 책임에 대한 논지는 단순하고 효과적임. Meta는 미얀마에서 두 문제를 마주했음. 첫째 Facebook 사용자가 충분하지 않았고, 둘째 반로힝야 폭력을 명백하고 반복적으로 부추기던 선동과 혐오 발언이 늘고 있었음
    회사는 그런 성장이 집단학살을 먹여 살린다는 걸 분명히 알고 있었음에도, 사용자 기반 성장에만 관심이 있음을 반복해서 보여줬음

    • 다른 쪽 이야기도 있나? 당시 미얀마 사용자 몇백만 명에서 나오는 수익은 홍보 리스크를 감수할 가치가 없어 보임
      Facebook의 동기가 무엇이었나? 어떤 콘텐츠를 금지해야 했고, 왜 그 콘텐츠가 버마 사람들에게 그렇게 인기가 있었나?

  • 여기서 Facebook의 첫 번째 범죄는 망 중립성 위반을 장려한 것임

    • 이건 중요하지만 간과되는 지점임. 몇몇은 “소셜 미디어는 인간 행동을 반영할 뿐”이라고 말하고, 표현의 자유·추천 알고리즘·사용자 경험 패턴을 두고 철학적 논쟁도 가능함
      하지만 핵심은 소셜 미디어나 뉴스 앱에 대한 자유시장이 없었다는 점임. Facebook은 주요 통신사의 보조를 받아 특권적 위치에 있었음
      특권적 독점 지위를 가진 플랫폼이라면 더 큰 책임도 져야 함. 양쪽 이익을 동시에 누릴 수는 없음

  • 전체 상황이 끔찍함. 당시 Facebook 내부 논의가 어땠는지 궁금함
    어떻게 모든 인권 단체가 실제로 뭔가 할 수 있는 부서가 아니라 사람들을 돌려보내는 부서와 이야기하게 됐을까. 그 부서도 뭔가 하려 했지만 Facebook 내부 정치력이 부족했을 수도 있음
    다만 그런 논의나 이메일은 소송이 아니면 밖으로 나오기 어려울 것 같고, 어떤 소송이 될지는 모르겠음
    Facebook이 하는 일을 보면, 플랫폼에서 여러 나쁜 행동을 원치 않는다는 데 꽤 신경 쓰는 것처럼 보이기도 함. 예전에는 범위가 훨씬 좁았던 건지, 아니면 미얀마 사용자와 너무 단절되어 생긴 문제인지 모르겠음. 예컨대 언어 장벽이나 미국용으로 설계된 정책 적용 같은 것임
    반사실을 생각하기가 어렵다. 예를 들어 Twitter에서도 이런 일이 가능했을까? Facebook의 가장 큰 우위는 보조금 덕분이었던 것 같고, 그 우위가 없었거나 몇 년에 걸쳐 가격이 조금 내려갔다면 같은 일이 Twitter에서 벌어졌을 수도 있음
    정부가 집단학살을 얼마나 원했는지도 명확하지 않음. Facebook에서 벌어지는 것의 큰 장점은 부인 가능성일 것이고, 그런 걸 신경 쓰지 않으며 충분히 유능했다면 혐오 설교자들을 인터넷에서 청중을 찾게 두는 대신 라디오에 올렸을 수도 있음

  • 기사에서 “Arturo Bejar”를 “Facebook의 엔지니어링 총괄”이라고 했는데, 이는 단순히 사실이 아님
    그는 Director였던 것으로 보이고, 보통 100명 미만을 관리하는 관리자 직함임. “엔지니어링 총괄”과는 전혀 가깝지 않음
    이 점을 드는 이유는, 문제가 Facebook의 관련자들에게 얼마나 명확히 전달됐는지에 대한 정확성도 의심하게 만들기 때문임
    복잡한 사회적 문제를 임의의 엔지니어나 커뮤니케이션 담당 부사장에게 말하는 것만으로는 부족함. 그런 사람들은 집단학살을 식별하거나 대응하도록 훈련받지 않았고, 심각한 대응을 시작할 조직 권한이나 전문 경험도 없음
    커뮤니케이션 붕괴가 있었다는 건 슬프지만 놀랍지는 않음

답변달기