EU 집행위원회의 논란적 디지털 감시 추진이 민주주의를 약화시킨다는 비판

 (dannymekic.com)
1P by GN⁺ | ★ favorite | 댓글 1개
  • EU 집행위원회의 CSAM 규정안은 WhatsApp, iMessage, Instagram, TikTok, X 같은 통신 앱에서 시민의 대화·사진·동영상을 자동 스캔하는 대규모 감시 제안으로 비판받고 있음
  • 범죄 혐의가 없는 시민까지 대상이 될 수 있어, 학계·프라이버시 규제기관·EU 이사회 내부 법률 전문가들이 프라이버시권 침해와 기술적 결함을 문제 삼음
  • 2023년 9월 14일 EU 이사회에서 충분한 지지가 없다는 정황이 나온 뒤, 다음 날 내무 담당 집행위원 Ylva Johansson이 반대·유보 국가를 겨냥한 X 유료 광고를 집행함
  • 광고는 400만 회 이상 조회됐고, X 투명성 보고서상 Julian Assange, Brexit, AfD, 기독교 등에 관심 있는 이용자를 제외하는 마이크로타기팅을 사용함
  • 정치·종교적 신념 기반 광고 배제는 X 광고 정책, Digital Services Act, GDPR과 충돌하며, 집행위원회가 여론을 조작적으로 압박했다는 비판으로 이어짐

CSAM 규정안이 바꾸려는 통신 감시 구조

  • EU 집행위원회는 WhatsApp, iMessage, Instagram, TikTok, X 같은 디지털 통신 앱을 대량 감시 도구로 바꾸는 CSAM 규정안을 추진함
  • 스캔 대상은 EU 시민의 디지털 통신 전반으로, 실시간 대화와 사진, 동영상까지 포함됨
  • 범죄 혐의를 받지 않는 시민의 통신도 자동 스캔될 수 있음
  • 수백 명의 학자, 프라이버시 규제기관, EU 이사회 내부 법률 전문가들은 이 제안이 프라이버시권을 침해하고 구현 기술도 근본적으로 결함이 있다고 비판함
    • 인공지능이 범죄 활동을 정확히 탐지하지 못해 무고한 시민 수백만 명을 용의자로 잘못 신고할 수 있음
    • 범죄자는 앱을 삭제하거나 다크웹으로 이동해 시스템을 쉽게 우회할 수 있음
  • 이 제안은 사적인 디지털 대화의 종말을 뜻하며, 통신의 자유와 무죄 추정 원칙에도 맞지 않는다는 비판을 받음

이사회 지지 부족 직후 시작된 X 광고

  • 2023년 9월 14일, EU 이사회에서 이 제안에 대한 충분한 지지가 없다는 사실이 드러남
  • 다음 날인 9월 15일, 내무 담당 유럽 집행위원 Ylva Johansson은 X에서 유료 광고 캠페인을 의뢰함
  • 광고 대상은 유출된 9월 14일 회의록상 현행 제안에 찬성하지 않으려던 국가들이었음
    • 네덜란드
    • 스웨덴
    • 벨기에
    • 핀란드
    • 슬로베니아
    • 포르투갈
    • 체코
  • 캠페인은 400만 회 이상 조회됨
  • 광고는 어린 소녀 이미지, 불길하게 보이는 남성, 음산한 음악을 사용했고, 법안 반대자가 아동 보호를 원하지 않는다는 식의 정서적 압박을 가함

여론조사와 지지율 표현의 문제

  • 광고는 제안된 법안이 유럽인 다수의 지지를 받는다고 주장함
  • 근거가 된 조사는 법안의 장점만 강조하고 단점은 제시하지 않았다는 비판을 받음
  • YouGov와 Novus 조사는 단점을 함께 제시했으며, 유럽 시민 사이에서 이 제안에 대한 지지가 거의 없다는 결과를 보임
  • 이후 방법론자 Dr Vera Wilde는 광고 캠페인에 쓰인 조사 결과를 다룬 상세 글을 작성함
    • 조사 도구가 편향돼 조사가 유효하지 않다고 평가함
    • 조사 담당자들이 널리 받아들여지는 전문적·윤리적 조사 기준과 관련 행동강령을 위반했다고 봄
    • 프로그램 지지자들이 조사 결과를 잘못 대표했다고 판단함
    • 이 조사와 그 표현은 참여자와 독자를 오도하는 허위정보 캠페인에 해당한다고 평가함

X 마이크로타기팅과 법적 충돌

  • X 투명성 보고서에 따르면 집행위원회는 특정 집단에게 광고가 보이지 않도록 마이크로타기팅을 사용함
  • 제외 대상에는 프라이버시에 관심 있는 사람과 유럽회의주의 성향 이용자가 포함됨
    • Julian Assange에 관심 있는 사람
    • nexit, brexit, spanexit에 관심 있는 사람
    • Victor Orbán, Nigel Farage, 독일 AfD에 관심 있는 사람
  • 이유가 불분명하지만 기독교에 관심 있는 사람도 제외됨
  • 비판적 정치·종교 집단을 제외한 뒤, X 알고리듬은 남은 사람들 중 광고 메시지에 관심을 보일 이용자를 찾도록 설정됨
  • 그 결과 비판적 반응이 줄어든 비판 없는 에코 챔버가 만들어졌다고 평가됨
  • 정치적·종교적 신념을 기반으로 한 이런 마이크로타기팅은 다음과 충돌함
    • X 광고 정책
    • Digital Services Act Article 26(3)
    • General Data Protection Regulation
  • 특히 Digital Services Act는 집행위원회가 직접 감독해야 하는 법임

민주적 절차와 집행위원회에 대한 요구

  • 법안에 충분한 지지가 없다면 민주적 대응은 철회하거나, 독일이 제안한 것처럼 충분한 지지를 얻을 수 있도록 수정하는 것이라는 입장임
  • 이 경우 위헌적 “telescreen”을 도입하지 않는 방식의 수정이 언급됨
  • 집행위원회가 의심하는 회원국의 여론을 바꾸기 위해 조작적 광고, 오도하는 통계, 종교·신념 기반 마이크로타기팅을 사용한 방식은 미국 선거와 Brexit 당시의 허위정보 캠페인을 떠올리게 한다는 비판을 받음
  • 논란이 큰 법안을 밀어붙이기 위해 유럽의 가치를 제쳐두는 행위는 시민뿐 아니라 유럽연합의 기반에도 해를 끼친다고 평가됨
  • 집행위원회는 해당 광고 캠페인을 내리고, 소셜 미디어의 불법 광고를 통해 유럽 여론을 굽히려는 조작적 허위정보 캠페인을 중단해야 한다는 요구를 받음

이후 업데이트와 자료

  • 글 공개 이후 X/Twitter에서 @DannyMekic 계정과 트윗이 X 검색 엔진에 더 이상 나타나지 않게 됐다고 업데이트됨
  • 계정 접근은 이후 복구됐지만, 왜·어떻게·누구를 위해 또는 X 자체 판단으로 그렇게 됐는지는 알 수 없다고 밝힘
  • 관련 X 투명성 보고서는 2023년 11월 14일 기준 X/Twitter에서 제거된 것으로 보이며, 미러 파일은 GitHub에 있음
  • 본문은 관련 X 투명성 보고서와 EUHomeAffairs 게시물 링크 목록도 함께 제공함

함께 보면 좋은 글 β

GN⁺   [-]
Hacker News 의견들

  • 정치인들이 이런 논쟁적 법안을 통과시키려는 방식 자체가 정말 잘못됐다고 느껴짐
    정치인들이 공익에는 별 관심 없는 로비의 영향을 받아 논쟁적인 안건을 꺼내고, 이를 막으려면 많은 시민들이 시간과 에너지를 들여 운동해야 함
    그런데 잠잠해지면 같은 정치인과 로비스트가 이름만 바꾸거나 다른 법안에 몰래 끼워 다시 들고 오고, 감정이 크게 동원된 사건 뒤에는 맥락 없이 대중 지지를 얻기도 쉬워짐
    정치인과 로비스트는 이 일을 하라고 돈을 받지만 시민은 그렇지 않아서, 결국 시민이 삶을 갈아 넣는 동안 저들은 같은 헛소리를 계속 밀어붙일 수 있음

    • EU에서는 새삼스러운 일이 아님
      예전에도 소프트웨어 특허를 농업 장관 회의에서 통과시키려 했고, 그때는 폴란드 대표단이 막아줬지만 결국 나중에 산업계가 원하는 것을 얻어냈음
    • 정치인이 없고 유럽 의회가 모든 시민의 법안 투표를 합친 일종의 거대 Stack Overflow식 합의 시스템이라면 어떻게 될지 궁금함
      한편으로는 이 광기가 끝날 것 같지만, 다른 한편으로는 몇 달쯤은 전면 감시와 사형 방식으로서의 이등분 같은 것도 시도할까 봐 두려움
      그래도 나쁜 법을 훨씬 빠르게 고칠 수 있다는 장점은 있을 듯함
    • 같은 헛소리를 계속 밀어붙일 수 있다는 건 민주주의의 본질이기도 하고, 이를 막는 방법은 병보다 치료가 더 나쁜 경우가 될 가능성이 큼
      여성 참정권, 시민권, 동성애자 권리, 의료용 대마초 등 수많은 권리의 승리도 정치인과 로비스트가 계속 들고나오고 계속 패배하다가 어느 날 통과되어 자리 잡은 결과였음
      개인적으로는 더 작고 분산된 지방정부가 피해를 줄이는 최선이라고 보지만, 그러면 모든 집단이 여러 지역에서 같은 싸움을 반복해야 하므로 그것도 나름의 피해가 됨
      나쁜 법안을 영구히 물리치는 방식이 과거의 권리 운동들까지 똑같이 해치지 않을 방법은 떠오르지 않음
    • 무언가를 하는 것보다 누군가가 무언가를 하지 못하게 막는 일이 훨씬 어려움
      보통 행동을 막으려면 완전한 통제나 강한 유인이 필요하고, 브라우저 기능 개발도 같은 역학을 가짐
      추가는 쉽지만 추가를 막기는 어렵고, 결국 대다수에게 불리한 것에도 예라고 하게 됨
    • 실제로 활동을 해봤고, 이제 그 경험으로 말하자면 문제는 실제로 뭔가 하는 사람이 극히 소수라는 데 있음
      더 많은 사람은 어느 정도 알아보기만 하고 아무것도 하지 않으며, 더 큰 집단은 포럼에서 불평하고 남들에게 해달라고만 함
      아주 적은 인원으로도 변화를 만들 수 있지만 현실에서는 그보다도 더 적은 사람만 움직여 아무 일도 안 일어남
      나처럼 움직인 사람들은 결국 지치고 절망하며 삶의 꽤 큰 조각을 낭비했다고 느끼게 됨
      몇 명만 더 참여했다면 달라졌을 수도 있지만, 그런 일은 일어나지 않았음
      변화를 원한다면 가져갈 수 있지만, 대부분은 그렇게 하지 않을 것임

  • 더 넓은 사생활·감시 논점과 별개로, European Commission이 여론을 흔들기 위해 정교한 표적 광고를 쓰고 사생활 보호에 관심 있는 사람들과 유럽회의론자를 의도적으로 배제했다면 매우 우려스러움
    EC 같은 기관이 조심스럽게 만든 반향실을 통해 의제를 밀고 특정 인구 집단을 논의에서 빼버리기 시작하면, 공통의 공개 정치 담론 공간은 사라짐

    • 이건 거의 노골적인 악의적 기획 같음
      디지털 게리맨더링인가 싶음
    • 그런 도구는 누가 제공했나, Twitter인가?
      새로울 건 없고, 이제는 우익 포퓰리스트만 그러는 게 아닐 뿐임
      요즘 Twitter에서는 어떤 이유에서인지 그런 우익 포퓰리즘이 완전히 괜찮은 일처럼 됐음
    • EU에서 투표하는 사람들 중에는 더 극단적인 성향이 많은 편이라 특히 짜증남
      예컨대 Belgium이나 NL을 대상으로 홍보할 때 여러 세대 동안 그곳에 있던 사람들은 우익 정당 지지층인 경우가 많음
      법의 취지를 따르는 사람들은 미국의 학생들처럼 현지에 등록하지 않은 경우가 잦음
      결국 Brexit을 만든 부류와 비슷한 사람들에게 또 다른 내용이 피드로 전달되는 되먹임 고리가 생김
      제안된 법안에 충분한 지지가 없다면 올바른 민주적 대응은 철회하는 것이라는 저자의 말에 동의함
      들을 수 없게 차단하지 않은 사람들에게서 원하는 예가 나올 때까지 계속 묻는, 동아리 형제회식 공공정책 모델에는 지쳤음

  • 최근 알게 됐는데, 예전 미국 의회 투표는 득표수는 공개하지만 누가 무엇에 투표했는지는 비밀로 하는 의미에서 익명 투표였음
    이후 투명성을 높인다는 이유로 실제 개별 투표가 공개되었고, 시민에게 더 열려 보이는 효과는 있었지만 로비스트에게 어떤 의원이 자기 이익에 찬성·반대하는지 정확히 보여주는 결과를 낳음
    그 결과 로비에 우호적인 의원에게 자금이 흘러가고 악순환이 가속됨
    이 강의 영상이 그 과정과 영향에 대해 훨씬 자세히 다룸: https://www.youtube.com/watch?v=Qz27n1tNNMg
    덧붙이면, 같은 법안에 대해 공개 투표와 비밀 투표를 모두 실험한 실제 정치 기구에서 완전히 다른 결과가 나왔다는 이야기도 기억남. 아마 이탈리아 의회였던 듯함

  • European Parliament는 유럽에서 가진 것 중 아마 가장 나은 제도이고, 좋은 변화와 새로운 권리의 상당수가 거기서 나옴
    반대로 European Commission은 우리가 가질 수 있는 최악에 가까움
    Qatar 등에서 현금 가방을 받은 부통령 사례처럼 완전히 부패했거나, 최소한 로비에 의해 도덕적으로 부패해 있음
    게다가 그렇게 큰 권한을 가진 이들을 아무도 선출하지 않았음
    미국이 유럽 시민의 모든 금융 거래에 공유 접근권을 얻었는데 반대는 왜 성립하지 않는지도 생각해볼 만함

    • 그 부패 정치인 Eva Kaili는 EC 부통령이 아니라 European Parliament 부통령이었고, 선출된 인물이었음
      그래서 원래 논지를 약화시킴
    • European Parliament는 말 그대로 법안 발의권이 없음
    • 미국과 유럽 사이에는 불균형한 것이 많음
      예를 들어 미국이 유럽 방위 비용의 대부분을 부담함
    • 그건 Parliament 부통령이었음
      게다가 아무 자격도 없었는데도 어떤 이유로 AI와 Blockchain 담당 부통령이었음
      EC와 EP 모두의 문제는 책임성이 부족하다는 점이고, 매우 간접적인 시스템임
    • 그 인물은 악명 높은 Cyber Resilience Act 뒤에도 있었음

  • EU Commission에는 새로울 게 없음
    EU 기관 중 가장 민주성이 낮고, 이름도 Soviet Union의 commissar에서 온 commission이라 아주 적절해 보임
    자기 후원자, 주로 독일 이익집단과 대리로서의 러시아에 반대하는 세력을 선출할 용기를 낸 나라들을 어떻게 공격하는지만 봐도 됨
    EU 집권당인 EPP에 반대하는 정당이 통치하는 Poland를 겨냥하려고 법치주의 같은 단어를 재정의하면서, 자기편인 Bulgaria의 끔찍한 부패는 완전히 무시함
    Court of Justice of the EU의 거대한 부패에도 아무 반응이 없고, 지금 그 법원은 법치주의의 반대편에 가깝지만 이건 긴 이야기임
    그러면서 조약을 거슬러 자기 권한을 늘리고, 거부권을 없애고, 이런 법안을 밀어붙이려 함
    EU 자체는 훌륭한 아이디어였기에 더 슬프고, 무엇이든 부패할 수 있음

  • 민주주의에서 익명성의 역할을 깊이 생각해본 사람들의 견해가 궁금함
    잘못한 게 없다면 감시당해도 상관없다는 태도를 가진 사람들이 그 철학을 한쪽 방향으로만 적용하는 경우가 많다는 점이 흥미로움
    Snowden이 정부 활동을 드러낸 것에는 화내면서, 정작 드러난 내용이 정부가 자국민을 감시했다는 사실이라는 점에는 무심한 사람들을 봄
    정부는 사생활을 가질 자격이 있지만 시민은 없다는 뜻인가?
    개인의 사생활은 민주주의 유지에 중요하다는 직감이 있지만, 정부의 제도적 비밀은 민주주의에 해롭다는 직감도 있음
    물론 국가안보를 위해 합리적 수준의 정부 비밀이 필요하다고 대부분 주장할 것이고, 나는 그 최소한만 선호하지만 주변 대부분은 동의하지 않음
    양쪽을 탐구하고 직감을 넘어선 논거를 찾고 싶으니, 여러 입장의 논증 링크나 참고자료가 있으면 좋겠음

    • 개인 사생활 보호를 강하게 지지하지만, 정부는 비밀을 가질 수 있고 개인은 그렇지 않다는 전제를 최대한 강하게 변호해보면 이렇다
      정부의 의무 중 하나는 군사 방어이고, 정부는 국민을 보호해야 하며 전쟁의 현실은 일정한 비밀 유지를 요구함
      이를 인정하지 않는 것은 정부 의무의 포기가 될 수 있음
      반면 사인은 전쟁을 수행할 수 없고, 정부가 국민을 보호해야 하는 이유도 개인이 직접 전쟁하는 것을 금지하기 때문임
      따라서 전쟁의 현실이라는 논리는 정부의 비밀은 정당화하지만 개인의 사적 비밀까지 정당화하지는 못한다는 논리임
      반박하자면, 역사적으로 특히 20세기에 수천만 명이 자기 정부에 의해 살해됐음
      정부가 외부 위협으로부터 국민을 효과적으로 지키려면 일부 비밀이 필요할 수 있지만, 국민도 그만큼 현실적이고 우려스러운 내부 위협인 정부로부터 자신을 지키기 위해 정부에 대해 비밀을 가질 권리가 필요함
    • 개인 사생활이 민주주의 유지에 중요하다는 말은 사실이 아니라고 봄
      사람들은 협력하기 위해 어떤 형태로든 사회적 압력이 필요하고, 동료의 긍정적 피드백일 수도 있고 수치심 같은 부정적 피드백일 수도 있음
      여기서 진정성이 중요하며, 동료들이 정확한 긍정·부정 피드백을 줄 수 있어야 함
      익명성은 이 모델을 깨뜨려 사람들이 보상을 얻기 위해 어떤 관점을 가진 척하면서 반사회적 행동에 대한 부정적 피드백은 피하게 해줌
      인터넷의 가명 댓글 작성자들을 보면 바로 드러남
      평범한 사람들도 사회적 결과를 부과할 수 있는 사람들에게 행동을 숨길 수 있기 때문에 온라인에서 완전히 형편없는 태도를 보일 수 있음
      가까운 친구가 온라인 트롤의 일상적 잔인함을 보이는 사람이라는 걸 알게 되면 친구 관계를 끊을 수도 있음
      물론 사생활의 이점이 모두 나쁜 것은 아니고, 취약한 사람들은 특히 적대적 환경에서 사생활의 큰 도움을 받음
      하지만 직접·간접 민주주의처럼 덜 적대적인 환경에서는 답이 더 많은 사생활이 아니라 덜 판단하는 문화일 수도 있음
      또 다른 틀은 신뢰임
      익명성은 신뢰를 약화시키지만, 공동 행동에는 신뢰가 필요함
      이 관점에서 보면 민주주의와 사생활 보호는 서로 반대 목표를 추구한다는 점이 꽤 분명함
      투표에 관해서도 거짓말할 유인을 만드는 것, 더 나쁘게는 그것을 긍정적인 일로 적극 장려하는 건 좋은 생각이 아니라고 봄
      투표 공개가 부정적 외부효과를 만든다면, 사람들이 어떻게 투표했는지 거짓말하게 두는 것 말고 다른 해법이 있을 수 있음

  • 정말 끔찍함
    영국도 아이들을 보호한다는 명목으로 이런 류의 시도를 하고 있음
    하지만 그 분야에서 잘하고 있는 시민단체를 지원하지도 않고, 실제 행동을 보면 아동 보호보다 통제가 훨씬 높은 우선순위라는 점이 드러남
    일반적인 통제 강박과 자유 상실을 제외하고 생각해도, 이것이 아동 성범죄자를 막는 데 얼마나 도움이 되는지 연구된 적이 있는지 궁금함
    아동 성범죄에 대응하는 시민단체에 비해 효과가 매우 낮을 것 같고, 결국 중국을 흉내 내어 인구를 통제하려는 시도처럼 보임

  • 관료들이 시민들을 엄청난 양의 텍스트로 압도하고 있음
    여기서는 의견 표현까지 규제되고 있는데, 몇 가지 원칙이면 충분함
    가장 중요한 원칙은 모든 시민이 자기 의견을 자유롭게 표현할 수 있다는 것이어야 함
    https://eur-lex.europa.eu/legal-content/EN/TXT/HTML/?uri=CEL...

    • 유럽의 일부, 어쩌면 대부분의 국가에는 모욕죄가 있어서 현실은 그렇게 작동하지 않음
      이것도 새로운 일이 아님
    • EU는 서명국이 더 약한 수준의 표현의 자유를 보호하도록 요구하는 것 외에는 표현의 자유 법제를 정하지 않음
      어떤 국가든 원하면 더 강한 표현의 자유 보호를 둘 수 있고, EU 기관은 이를 막을 수 없음
      원래 논리는 말이 안 됨
    • 의견이 모든 유대인은 인간 이하이며 말살되어야 한다는 것이라면 어떻게 할 것인가? 실제 사례임
      대부분의 EU 국가는 Nazi나 반유대주의 같은 혐오표현을 명시적으로 금지하는 법을 갖고 있음
      그들의 의견이 제한된다고 해서 아무도 눈물 흘리지 않으며, 그래서는 안 됨
      비둘기와 토론하는 건 통하지 않음
    • 의견을 표현할 자유는 있지만, 그 과정에서 범죄를 저지르면 재판을 받게 됨
      그건 공정함
      명예훼손은 서구 어디서나 법으로 처벌되는 범죄지만, 그렇다고 원하는 말을 금지당한다는 뜻은 아님
      사법 시스템이라는 견제 권력이 없는 민주주의는 현대적 의미의 민주주의가 아님

  • European Union에도 그 어떤 회원국에도 실제 민주주의는 없다고 봄
    권력분립이 없고, 행정부와 입법부가 하나처럼 모든 것을 통제하려 함
    인터넷 콘텐츠를 검열할 때 사법 시스템을 우회하는 법들을 보면 알 수 있음
    Russia Today나 Twitter를 금지할지 결정하는 주체는 판사가 아님
    이는 Michels의 과두제의 철칙이 눈앞에서 펼쳐지는 것과 같음
    그들이 법을 만들고, 집행하고, 따르지 않으면 처벌함

  • 거의 1년 전 VPN 웹사이트에서 이 추진을 처음 봤음
    더 걱정되는 건 이 사안이 언론에 거의 보도되지 않는다는 점임
    사람들이 들어본 적도 없는 것에 어떻게 항의할 수 있겠나?
    복잡한 관료제와 언론 억제, 아동 보호라는 명분 아래 유럽인뿐 아니라 모두의 기본권을 은밀히 훼손하는 헤게모니 권력이 제안 자체보다 더 섬뜩함
    아동 성착취물과 다른 범죄 활동에 맞서는 일은 절대적으로 중요하지만, 대량 감시는 답이 아님

답변달기