GN⁺: Meta, 제3자 팩트체크 프로그램 종료 및 Community Notes 모델 전환

• Meta의 플랫폼은 사람들이 자유롭게 자신을 표현할 수 있는 공간으로 설계됨. 이는 때로는 혼란스러울 수 있음. 수십억 명의 사람들이 목소리를 낼 수 있는 플랫폼에서는 좋은 것, 나쁜 것, 추한 것 모두가 드러남. 그러나 이는 자유로운 표현임. 2019년 Georgetown University 연설에서 Mark Zuckerberg는 자유로운 표현이 미국 사회와 전 세계의 발전을 이끌어온 힘이라고 주장했으며, 표현을 억제하는 것은 종종 기존의 기관과 권력 구조를 강화할 뿐이라고 언급함.

• 최근 몇 년 동안 Meta는 사회적, 정치적 압력에 대응하여 콘텐츠를 관리하기 위한 복잡한 시스템을 개발해 왔으며, 이는 너무 멀리 나아갔음. 많은 노력이 잘 의도되었지만, 시간이 지남에 따라 너무 많은 실수를 저지르고 사용자들을 좌절시키며 우리가 설정한 자유로운 표현을 방해하게 됨.

제3자 사실 확인 프로그램 종료 및 Community Notes 로 이동

• 2016년 독립적인 사실 확인 프로그램을 시작했을 때, Meta는 진실의 중재자가 되고 싶지 않았음. 독립적인 사실 확인 기관에 책임을 맡기는 것이 최선의 선택이라고 생각했음. 그러나 이는 특히 미국에서 기대대로 진행되지 않았음. 전문가들 역시 자신만의 편견과 관점을 가지고 있었음.

• Meta는 현재 미국에서 제3자 사실 확인 프로그램을 종료하고 커뮤니티 노트 프로그램으로 전환할 예정임. X에서처럼 커뮤니티가 게시물이 오해의 소지가 있는지 여부를 결정하고 다양한 관점의 사람들이 어떤 맥락이 다른 사용자에게 도움이 되는지를 결정함.

• 커뮤니티 노트는 기여하는 사용자에 의해 작성되고 평가되며, Meta는 이를 작성하거나 어떤 노트가 표시될지를 결정하지 않음. 다양한 관점의 사람들이 동의해야 편향된 평가를 방지할 수 있음.

• 초기 단계에서 Facebook, Instagram, Threads를 통해 기여자 모집

• 콘텐츠 검열을 덜 intrusive(성가시게) 한 방식으로 대체: 완전 차단 대신 추가 정보 표시

더 많은 표현 허용

• Meta는 플랫폼에서 콘텐츠를 관리하기 위한 복잡한 시스템을 개발했으며, 이는 점점 더 복잡해지고 있음. 결과적으로 규칙을 과도하게 집행하여 합법적인 정치적 토론을 제한하고 너무 많은 사소한 콘텐츠를 검열함.

• Meta는 정책을 완화하고 과도한 집행을 줄이기 위해 자동 시스템을 조정하고 있음. 불법 및 심각한 위반 사항에 대해서는 계속해서 자동 시스템을 사용할 것이며, 덜 심각한 위반 사항에 대해서는 누군가가 문제를 보고할 때까지 조치를 취하지 않을 것임.

• 이민, 성별 정체성, 성별 관련 논쟁과 같은 주제에 대한 제한 완화

• Meta는 콘텐츠 정책을 작성하고 검토하는 신뢰 및 안전 팀을 캘리포니아에서 텍사스 및 다른 미국 지역으로 이동할 계획임.

• 부정확한 검열 줄이기

  • 스팸 등 중대한 위반 사항에 자동 시스템 집중
  • AI 및 대규모 언어 모델(LLMs)을 활용한 이중 검토 시스템 도입
  • 콘텐츠 삭제 전에 높은 신뢰도가 필요하도록 시스템 재설정

• 심사 프로세스 개선:

  • 계정 복구 절차 간소화 및 얼굴 인식 기술 테스트
  • 검토 과정에 다중 리뷰어 시스템 도입

정치 콘텐츠에 대한 개인화된 접근 방식

• 2021년부터 Meta는 사용자 피드에서 선거, 정치 또는 사회 문제에 대한 콘텐츠를 줄이기 위해 변경을 가했음. 그러나 이는 다소 무딘 접근 방식이었음. Meta는 Facebook, Instagram 및 Threads에서 정치 콘텐츠를 더 개인화된 방식으로 다시 도입할 예정임. 사용자 선호에 따라 정치적 콘텐츠를 더 많이 또는 적게 표시 가능

• Meta는 개인화된 경험을 제공하기 위해 테스트를 진행 중이며, Civic 콘텐츠를 다른 피드 콘텐츠와 유사하게 취급할 계획임. 이는 사용자가 콘텐츠를 좋아하거나 게시물을 보는 것과 같은 명시적 및 암시적 신호를 기반으로 콘텐츠를 예측하고 추천하는 방식임.

  • 콘텐츠 노출은 명시적 신호(좋아요 등)와 암묵적 신호(조회수 등)를 바탕으로 조정
  • 사용자가 팔로우한 계정과 페이지의 콘텐츠를 더 많이 추천
  • 사용자가 콘텐츠를 관리할 수 있는 옵션 추가

• 이러한 변화는 Mark Zuckerberg가 Georgetown 연설에서 설정한 자유로운 표현에 대한 약속을 되돌리기 위한 시도임. 이는 정책과 시스템이 사람들의 목소리를 내는 능력에 미치는 영향을 주의 깊게 살피고, 잘못된 접근 방식을 변경할 수 있는 겸손함을 갖는 것을 의미함.

[neo]

Hacker News 의견

• Facebook의 사실 확인 기능보다 Community Notes가 더 나은 기능이라고 생각하는 의견이 있음. 사실 확인 기능은 사용자 경험이 좋지 않았으며, Community Notes는 효과적임.

• Facebook이 정치적 콘텐츠를 사용자에게 더 많이 보여주려는 의도가 있으며, 이는 사용자 참여 최적화를 위한 것이라는 의견이 있음. 사용자에게 정치적 콘텐츠를 볼 수 있는 명확한 선택권을 제공해야 한다고 주장함.

• Meta가 콘텐츠 중재를 줄이고, 사용자가 Community Notes 시스템을 통해 스스로 조절할 수 있게 하려는 계획이 있음. 이는 Meta의 운영 비용을 줄이고, 사용자 참여를 높이는 데 도움이 될 것이라는 의견이 있음.

• 자율 규제 소셜 네트워크의 모습이 흥미로울 것이라는 의견이 있음.

• Community Notes가 Facebook에도 적합한 접근 방식이라고 생각하는 의견이 있음.

• Threads 앱에서 Meta의 엄격한 중재를 벗어나야 한다는 의견이 있음. 중재가 지나치게 엄격하여 사용자 경험을 악화시킬 수 있음.

• Meta의 중재가 무의미하며, 사용자는 항상 이를 우회할 방법을 찾을 것이라는 의견이 있음.

• Community Notes가 잘 받아들여지고 있으며, 알고리즘이 공개적이고 변조 방지 기능이 있다는 점이 긍정적으로 평가됨.

• Facebook, Threads, X 등을 사용하지 않는 것이 해결책이라는 의견이 있음.

• Meta는 뉴스 조직이 아니며, 뉴스 콘텐츠를 직접 생산하지 않음. Meta의 콘텐츠 중재 감소가 사용자에게는 손실일 수 있다는 의견이 있음.