▲

러시아가 Wikipedia를 오염시킨다

 (bettedangerous.com)
1P by GN⁺ 2시간전 | ★ favorite | 댓글 1개
  • Atlantic Council은 러시아가 Wikipedia 문서와 인기 AI 도구에 친크렘린 콘텐츠를 퍼뜨리는 영향 작전을 확장·개발·맞춤화했으며, 제재 대상 뉴스 매체 콘텐츠를 세탁해 전 세계 정보원을 크렘린 서사에 맞추려 한다고 봄
  • Pravda 네트워크는 전 세계 80개 이상 국가와 지역을 겨냥한 사기성 뉴스 포털 집합으로, 러시아 뉴스 매체와 친크렘린 Telegram 채널의 표현을 증폭해 뉴스 흐름을 포화시키는 정보 세탁소처럼 작동함
  • VIGINUM은 2023년 9~12월 193개 사이트를 분석한 뒤, 이 네트워크가 자체 콘텐츠를 만들지 않고 러시아·친러시아 소셜미디어, 러시아 뉴스 통신사, 현지 공식 웹사이트를 대량 중계하며 외국 디지털 간섭에 해당한다고 결론냄
  • Institute for Strategic Dialogue는 영어 Wikipedia의 Russo-Ukrainian war 항목과 연결된 Ukraine 관련 48개 페이지에 의미 군집화 접근을 적용해, Wikipedia에서 은밀하고 조직적인 플랫폼 조작을 대규모로 탐지하려 함
  • Wikipedia 콘텐츠는 LLM 학습에 자주 쓰이므로, 친러시아 포털이 권위 있는 출처처럼 삽입되면 AI 챗봇 이용자가 친크렘린·반우크라이나·반서방 메시지에 노출될 수 있음

Wikipedia와 AI 도구를 겨냥한 친러 정보 조작

  • Atlantic Council의 Exposing Pravda: How pro-Kremlin forces are poisoning AI models and rewriting Wikipedia에 따르면 이 작전은 루마니아와 몰도바 선거, Donald Trump와 Volodymyr Zelenskyy 사이의 정치적 논의 같은 상황에서 활동을 늘림
  • Atlantic Council은 Pravda 네트워크를 전 세계 80개 이상 국가와 지역을 겨냥한 사기성 뉴스 포털 집합으로 보며, 러시아가 2014년에 시작한 것으로 봄
  • 프랑스의 허위정보 감시기관 VIGINUM은 2024년 보고서에서 Crimea 기반 IT 사업체의 악성 활동을 확인했고, Atlantic Council의 Digital Forensic Research Lab(DFRLab)은 이 네트워크에 대한 러시아의 직접 관여를 확인했다고 밝힘

Wikipedia 조작 탐지와 러시아-우크라이나 전쟁 문서

  • Institute for Strategic Dialogue의 Identifying Sock Puppets on Wikipedia는 “의미 군집화(semantic clustering)” 접근으로 영어 Wikipedia의 Russo-Ukrainian war 항목과, 해당 항목에 직접 연결된 Ukraine 관련 48개 페이지를 분석 대상으로 삼음
  • Twitter, Facebook, YouTube, Instagram, TikTok, 독립 웹사이트 등 여러 정보 환경이 악성 활동의 표적이 됐지만, Wikipedia는 주류 소셜미디어보다 훨씬 덜 연구된 공간으로 남아 있음
  • 연구 목적은 Wikipedia에서 은밀하고 조직적인 플랫폼 조작을 대규모로 탐지하기 위한 방법을 만들고, 시험하고, 평가하는 데 있음
  • Wikipedia의 크라우드소싱 구조는 공공 지식에 영향을 주는 장점이 있지만, 조직적 조작이 문서 내용과 인용 출처를 바꾸는 공격면으로도 쓰일 수 있음
  • 러시아의 우크라이나 침공 관련 Wikipedia 항목을 둘러싼 “조직적 조작”은 여러 보고서에서 다뤄진 주제임

Portal Kombat와 외국 디지털 간섭

  • 프랑스 방위기관 VIGINUM은 2023년 9월부터 12월까지 친러시아 콘텐츠를 퍼뜨리고 프랑스를 포함한 여러 서방 국가를 겨냥한 “정보 포털”을 분석함
  • VIGINUM의 PORTAL KOMBAT: A structured and coordinated pro-Russian propaganda network는 처음에는 “러시아와 우크라이나 지역” 뉴스를 다루던 193개 사이트 네트워크를 조사함
  • 이 네트워크의 보도 방향은 러시아의 우크라이나 침공 다음 날부터 바뀌어, 점령된 우크라이나 영토와 우크라이나 및 그 국민을 지원하는 서방 국가들을 겨냥하기 시작함
  • 해당 사이트들은 자체 콘텐츠를 만들지 않고, 주로 세 종류의 출처를 대량 중계함
    • 러시아 또는 친러시아 행위자의 소셜미디어 계정에서 나온 콘텐츠를 중계함
    • 러시아 뉴스 통신사 콘텐츠를 중계함
    • 현지 기관 또는 행위자의 공식 웹사이트 콘텐츠를 중계함
  • VIGINUM은 이 네트워크의 주요 목적이 “특별 군사 작전”을 긍정적으로 제시하고 Ukraine와 그 지도자들을 폄하하는 방식으로 러시아-우크라이나 분쟁을 다루는 데 있다고 봄
  • VIGINUM은 이 콘텐츠가 매우 이념적으로 기울어져 있으며, 부정확하거나 오해를 부르는 서사를 반복적으로 제시한다고 평가함
  • 프랑스를 겨냥한 pravda-fr[.]com은 프랑스어권 디지털 공론장을 양극화하는 데 직접 기여하는 것으로 분석됨
  • VIGINUM은 pravda-fr[.]com이 Red Sea의 “geopolitical situation” 관련 Wikipedia 문서의 출처로 삽입된 정황을 포착함
    • 2023년 12월 22일 생성된 프랑스어 Wikipedia 문서 “Operation Guardian of Prosperity”가 다음 날 사용자 “@ Lataupefr”에 의해 편집됨
    • 이 편집에는 pravda-fr[.]com 기사 2건이 삽입됐고, 그 출처는 친러시아 Telegram 채널 “@ BrainlessChanel”과 “@ kompromatmedia”였음
    • 수정 내역: https://fr.wikipedia.org/w/index.php/…
  • VIGINUM은 친러시아 출처의 정밀한 선택이 전략적 서사를 유포하려는 실제 표적화 노력을 보여준다고 봄
  • VIGINUM은 이 네트워크가 기술적 특성, 실행 절차, 추구 목적을 고려할 때 외국 디지털 간섭(foreign digital interference) 에 해당한다고 결론냄

Storm-1516과 정보전의 확장

  • Meduza 보도에 따르면 JD Vance와 Marjorie Taylor Greene은 러시아 허위정보 네트워크 Storm-1516의 가짜 이야기를 홍보함
  • Storm-1516은 GRU와 연결된 것으로 알려졌고, 2016년 Donald Trump 당선을 돕기 위해 미국인의 인식을 공격한 St. Petersburg 기반 Internet Research Agency 출신 인력을 고용한 것으로 여겨짐
  • Vance와 Greene이 홍보한 이야기는 Ukraine에 대한 군사 원조로 요트를 샀다는 허위 내용으로 제시됨
  • 2016년 미국 대선 이후 10년이 지난 시점에, 새로운 도구들이 무기화되면서 정보전이 확대되는 흐름으로 이어짐

AI 모델과 콘텐츠 세탁

  • Atlantic Council은 러시아가 러시아 뉴스 매체에 대한 전 세계 제재를 우회하려는 시도 속에서 AI 도구와 Wikipedia를 오염시키고 있다고 봄
  • 친러시아 포털은 Wikipedia에서 권위 있는 출처처럼 보이고, 대형 언어 모델(LLM)이 인용하는 신뢰 가능한 뉴스 매체처럼 자리 잡는 방식으로 기능함
  • 이 과정에서 러시아의 Ukraine 전쟁 서사가 다시 쓰이고, LLM이 Wikipedia 같은 자료로 학습될 경우 AI 챗봇 이용자는 친크렘린·반우크라이나·반서방 메시지에 노출될 수 있음
  • Atlantic Council은 AI 챗봇이 발전할수록, 크렘린이 조작한 콘텐츠가 전 세계 인터넷에 영향을 주도록 맞춤화되어 사실 이해와 의사결정 능력을 왜곡할 수 있다고 봄
  • 이 작전은 AI 모델 학습의 투명성과, 서방의 Ukraine 지지를 분열시켜 온 러시아 조작 출처의 콘텐츠 조정 과제를 제기함
  • Atlantic Council은 이를 전 세계 인터넷에 뿌리내린 러시아 온라인 영향 작전으로 규정함

러시아 Wikipedia 포크와 지식 조작

  • Characterizing Knowledge Manipulation in a Russian Wikipedia Fork는 러시아어 Wikipedia 문서 190만 개와 그 포크를 데이터셋으로 삼아, 이를 “지식을 조작하려는 조직적 노력”으로 분석함
  • Wikipedia는 세계 최대 백과사전이자 전 세계 9번째로 많이 방문되는 웹사이트로, 웹 생태계에서 영향력 있는 위치를 차지함
  • Wikipedia는 협업 커뮤니티의 노력으로 “인류 지식의 총합”이 되려는 프로젝트로 제시됨
  • 해당 연구는 Wikipedia의 지식이 사회에 큰 영향을 미친다고 보고, China와 Turkey 같은 권위주의 국가들이 플랫폼을 아예 차단한 사례를 다룸
  • 연구의 “Relevance” 부분은 시민이 온라인에서 자국 역사에 대해 찾는 정보가 국가 정체성과 여론에 영향을 줄 수 있다고 봄
  • Wikipedia는 역사 관련 정보원 중 6번째로 중요한 정보원으로 평가됐고, 박물관 방문, 대학 강의, 소셜미디어보다 높은 순위로 제시됨
  • 따라서 Wikipedia 콘텐츠 조작은 다른 플랫폼에서 발생하더라도 큰 사회적 영향을 가질 수 있음
  • Wikipedia 콘텐츠는 LLM 학습에 자주 쓰이므로, 조작된 Wikipedia 버전이 학습 데이터로 사용되면 특정 편향을 촉진하는 AI 기반 시스템이 만들어질 수 있음

Grokipedia와 Wikipedia를 둘러싼 압박

  • Elon Musk의 Grokipedia는 출시 직후 The Guardian 보도에서 극단주의 이념과 러시아 선전을 밀어붙인다는 평가를 받음
  • Musk는 전년에 Wikipedia 보이콧을 요구했고, Wikipedia를 “Wokepedia”라고 부름
  • Trump 행정부는 25주년을 맞은 비영리단체 Wikipedia의 면세 지위를 박탈하겠다고 위협한 것으로 제시됨
  • Wikipedia와 AI 학습 데이터, 대체 백과사전, 정치적 압박이 맞물리며 지식 플랫폼의 신뢰성과 조작 가능성이 함께 부각됨

함께 보면 좋은 글 β

▲
GN⁺ 2시간전  [-]
Hacker News 의견들

  • 글이 가리키려던 링크는 https://arxiv.org/abs/2504.10663 같음
    논문을 훑어보면, 저자들은 러시아어 Wikipedia 문서와 러시아 쪽 포크의 문서 차이를 판별하려고 함
    포크에서 러시아어 Wikipedia와 다른 문서들은 러시아어 Wikipedia에서 편집 횟수가 훨씬 많았고, 저자들은 이를 조작의 징후일 수 있다고 보지만 토론 부분에서는 품질이 반드시 나빠졌다고 보기는 어렵다고 함
    Wikipedia에서 국가 후원 활동이 있을 가능성은 충분하지만, 러시아가 Wikipedia를 성공적으로 오염시켰다는 명확한 증거로는 아직 설득되지 않음

    • 그 글은 그 링크에 관한 게 아님. 글에서는 어떤 책을 리뷰하려고 Wikipedia 페이지를 읽었는데, 현실이 제거되고 Putin은 선하며 소련의 잔혹행위를 다룬 책은 여러 방향에서 은근히 깎아내리는 정제된 동화처럼 바뀌어 있었다고 함
      충격을 가라앉힌 뒤 러시아와 Wikipedia의 관계를 조사했고, 러시아 국가가 Wikipedia의 크라우드소싱 구조를 이용해 공적 지식을 꾸준히 왜곡해 왔다고 봄
    • Wikipedia에는 국가 후원 활동이 가득하고, 그런 국가들에 도움이 되는 유용한 바보들은 더 많음. 다만 러시아가 특히 그렇게 하고 있는지는 별개일 수 있음
    • 상황이 정반대일 수도 있음. “서방”과 우크라이나가 Wikipedia 내용을 조작하고, 이를 본 평범한 러시아인들이 문서를 더 균형 있게 만들려는 것일 수 있음
      예를 들어 “Child abductions in the Russo-Ukrainian war” 문서를 보면 첫 문장에서 우크라이나 선전처럼 아동 2만 명을 반복하지만, 우크라이나가 실제로 낸 명단은 339명뿐이라는 사실은 “Russian reaction” 섹션에 묻어둠
      독자의 5%만 요약 이후를 읽을 것 같고, 그중 대부분은 “러시아 선전” 문서가 있는 섹션을 그냥 건너뛸 것임. 이 사실을 요약에 넣으려 하면 쉽지 않을 것 같음
      https://en.wikipedia.org/wiki/Child_abductions_in_the_Russo-...
      https://en.wikipedia.org/wiki/Child_abductions_in_the_Russo-...

  • 러시아의 특별한 문제는 이런 일에 돈을 너무 많이 쓴다는 것임. Giuseppe Cavo Dragone 제독에 따르면 러시아는 인지전에 연간 약 20억 달러를 쓴다고 함

    [According to] Admiral Giuseppe Cavo Dragone, Russia spends some $2bn a year on cognitive warfare https://ecfr.eu/publication/from-shield-to-sword-europes-off...

    • CIA의 2026년 예산은 약 819억 달러임
    • 러시아의 핵심 문제는 자국을 1달러만큼 개선하는 것보다 다른 나라를 방해하는 데 10달러 쓰는 걸 더 선호한다는 점임

  • 논란 목록이 길게 있음: https://en.wikipedia.org/wiki/List_of_Wikipedia_controversie...

  • Wikipedia에서 여러 나라의 역사와 정보 문서 초기 버전을 보면, 스스로 미 국무부나 CIA의 해당 국가 역사 자료에서 왔다고 되어 있음
    한국 노근리에서 벌어진 미군의 민간인 학살 문서를 편집하던 중 CENTCOM의 어떤 IP가 내 편집을 지우고 있었음
    쉬는 시간에 사실을 넣으려 애쓰는데, 일하는 시간에 낸 세금은 미군 선전 조직이 그걸 지우는 데 쓰이는 셈임
    미국이 베네수엘라 대통령과 부인을 납치하고, 쿠바를 봉쇄하고, 이란을 폭격하는 와중에도 누군가는 러시아를 비방해 내 세금이 그 국경 주변의 끝없는 전쟁에 더 들어가게 해주니 참 훌륭함

    • 누구나 편집할 수 있는 공개 Wikipedia에 대한 초기 회의론이 국제 정보전이 격화되면서 현실화되는 듯함
      특히 Wikipedia가 대규모 언어 모델 학습에 꽤 광범위하게 쓰이는 상황에서는, 이런 편집의 영향을 가볍게 봐서는 안 됨
    • Wikipedia의 규칙과 기원을 고려하면, 나라를 설명하는 초기 문서들이 CIA World Factbook을 참조했더라도 이상하지 않음
      25년 전에는 가져다 쓸 수 있는 온라인 공개 자료가 부족했고, 논쟁적이지 않은 기본 사실에서는 그 자료집이 다른 자료가 나오기 전까지 최신 온라인 참고문헌으로 괜찮았을 것임
      하지만 그건 CENTCOM 직원이 미국 정부의 잔혹행위 역사 서술을 바꾸는 것과는 꽤 다른 문제임
    • 편집을 지운 링크를 볼 수 있음?
    • 그 IP가 CENTCOM이라는 건 어떻게 판단했음?
    • 두 제국주의 강대국이 모두 문제 있고 끔찍할 수 있으며, 한쪽이 같은 짓을 한다고 해서 다른 한쪽 편을 들거나 행동을 변명할 필요는 없음

  • 다행히 우리 정부는 절대 그런 수준까지 내려가지 않을 것임

  • 정부가 홍보 전략으로 Wikipedia 편집을 하는 건 흔하다고 봄
    영어, 폴란드어, 러시아어 Wikipedia를 자주 보는데 정부 차원의 흔적이 많이 보임
    예를 들어 폴란드 관련 주제에서 러시아어 문서들은 대체로 부정적인 태도를 띠고, 1920년대 인물을 술집에서 인터뷰한 것 같은 매우 이상한 인용이 많음. 대부분은 민간 일화이거나 작성자가 지어낸 것에 가까움
    폴란드 주제와 별개로, 러시아 편집자들은 러시아어 Wikipedia를 장악하고 있으며 벨라루스, 우크라이나, 포스트소련 동부 국가들처럼 다른 러시아어권 국가의 중요한 문서에도 큰 영향을 줌
    또한 폴란드-리투아니아 연방 관련 영어 문서는 리투아니아 편집자들이 활발히 손봄. 폴란드 귀족들이 리투아니아어를 전혀 몰랐고 명백히 슬라브식 이름을 가졌는데도, 현대 리투아니아 영토에서 직책을 가졌거나 리투아니아 역사학자들이 “좋은” 사건으로 여기는 일에 참여했다는 이유만으로 리투아니아식 이름으로 바뀜
    이런 일들이 짜증나지만, 한 나라가 이렇게 할 수 있다면 큰 승리라고 봄. “중립적” 출처를 통해 여론을 형성할 수 있다는 건 큰 홍보 성과임
    국가 홍보는 매우 중요함. “좋은” 이미지의 Switzerland나 Japan, 최근 몇 년간 Israel의 참혹한 홍보 실패, 지금 산유국 아랍권이 하는 일을 보면 알 수 있음

  • 꽤 흥미로운 전략이고, “오염”이라는 표현은 Wikipedia에 의존해 학습하는 인공지능 쪽에 더 잘 맞는 듯함

    This strategy, in a likely attempt to evade global sanctions on Russian news outlets, is now poisoning AI tools and Wikipedia. By posing as authoritative sources on Wikipedia and reliable news outlets cited by popular large language models (LLMs), Russian tropes are rewriting the story of Russia’s war in Ukraine. The direct consequence is the exposure of Western audiences to content containing pro-Kremlin, anti-Ukrainian, and anti-Western messaging when using AI chatbots that rely on LLMs trained on material such as Wikipedia.

  • 그들이 자기 정부 체계에 대한 굳어진 정보를 실제로 제거하기는 어려운 게 다행임. 그런 정보는 공식적 도움까지 받아 점점 이해하기 쉬워지고 있음
    자국 내 절망은 더 커질 것이고, 공식 설명에 대한 지식이 실제 연방 주체 거버넌스에 대한 이해와 더 멀어지는 상황에서 민주적 변화 통로도 없음
    물론 중앙 연방관구나 심지어 Pecherskyi raion에서는 이를 깨닫지 못할 것 같음

  • 러시아는 늘 그렇듯 인류에게 짐임

    • 세계는 러시아 연방 붕괴 이후 하룻밤 사이에 얼마나 많은 것이 좋아질지를 심각하게 과소평가하고 있음

  • Wikipedia가 유용한 이유는 인용 출처 때문임. 학교에서 철학을 가르치지 않으니, 사람들은 진실이 무엇을 뜻하는지에 대한 실제 개념을 갖고 있지 않음

답변달기