ChatControl: EU 장관들, 자신들은 면제하길 원하는 규제안

 (european-pirateparty.eu)
3P by GN⁺ | ★ favorite | 댓글 1개
  • 유출된 최신 EU 아동 성적 학대 규제안 초안은 정보기관·경찰·군 직원의 업무용 계정을 채팅·메시지 스캔 대상에서 제외하려 함
  • 초안은 전문상 비밀 같은 “기밀 정보”도 규제 밖에 두지만, 제공자나 알고리듬이 실제 대화 성격을 구분하기 어렵다는 반론이 나옴
  • EU 정부들은 새 EU Child Protection Centre의 예방 모범 사례 개발 조항을 거부해, 법안의 아동 보호 목적과 감시 확대 목적 사이의 충돌이 부각됨
  • Pirate Party MEP Patrick Breyer는 장관들의 예외 요구가 스캔 알고리듬의 불안정성과 위험성을 스스로 인정하는 신호라고 비판함
  • EU 정부들은 ChatControl 법안을 6월 초까지 채택하려 하며, Breyer는 실제 아동 보호에는 예방 프로그램 평가·수사 표준·피해자 식별 체계가 필요하다고 봄

유출 초안에 담긴 스캔 예외

  • 프랑스 매체 Contexte가 유출한 EU Child Sexual Abuse Regulation proposal 초안에 따르면, EU 내무장관들은 일부 공공기관 직원의 계정을 채팅·메시지 스캔에서 제외하려 함
    • 정보기관 직원의 업무용 계정
    • 경찰 직원의 업무용 계정
    • 군 직원의 업무용 계정
  • 이 예외는 초안의 Article 1 (2a)에 포함돼 있으며, EU 회원국들이 논의한 문서로 연결됨
  • Article 1 (2b)는 전문상 비밀 같은 “기밀 정보”에 규제가 적용되지 않도록 함
  • EU 정부들은 새 EU Child Protection Centre가 아동 성적 학대 예방을 지원하고 예방 이니셔티브의 모범 사례를 개발하는 Article 43(8) 구상을 거부함

Patrick Breyer의 비판과 남은 쟁점

  • Pirate Party MEP Patrick Breyer는 EU 내무장관들이 경찰·군·정보기관 직원과 자신들을 채팅 스캔에서 제외하려는 점을 두고, 이들이 스캔 알고리듬의 신뢰성 문제와 위험을 알고 있다고 비판함
  • 정부 통신의 기밀성은 중요하지만, 기업과 시민의 통신, 학대 피해자가 안전한 교류와 치료를 위해 쓰는 공간에도 같은 보호가 필요하다고 봄
  • 현재의 자발적 스캔 알고리듬이 유출하는 채팅의 대부분은 경찰과 관련 없는 가족사진이나 합의된 섹스팅 같은 사례라고 지적함
  • 전문상 비밀 예외도 실제 적용이 어렵다는 입장임
    • 제공자와 알고리듬은 대화 상대가 의사·치료사·변호사·변호인인지 알 수 없음
    • 이 때문에 의료 목적의 사적 사진이나 학대 피해자 변호를 위한 재판 문서가 유출될 수 있음
  • Breyer는 EU 내무장관들이 아동 성적 학대 예방 모범 사례 개발을 거부한 점이 공식 목표인 아동 보호와 맞지 않는다고 비판함
    • 실제 아동 보호에는 다학제 예방 프로그램의 체계적 과학 평가와 실행이 필요함
    • 아동 학대 수사, 피해자 식별, 필요한 기술 수단에 대한 유럽 전역의 표준과 지침도 필요함
  • EU 정부들은 ChatControl 법안을 6월 초까지 채택하려 함

함께 보면 좋은 글 β

GN⁺   [-]
Hacker News 의견들

  • 이런 끔찍한 법을 없애는 가장 좋은 방법은 결국 그 법을 만든 사람들에게도 그대로 집행하는 것이라고 봄. 공평하게, 똑같이 집행해서 다른 사람들이 이미 겪는 고통을 그들도 겪게 해야 함
    장관들이 자기 사적 통신을 낯선 사람이 읽는 걸 걱정한다면, 그래서 두렵고 편집증적이고 침해당한 느낌이 든다면, 그 감정을 수억 명에게 강요하려는 만큼 본인들도 똑같이 느끼게 해야 함
    “법은 모두를 똑같이 지배해야 한다 — 반대하는 사람도, 찬성하는 사람도. 나쁜 법이나 혐오스러운 법의 폐지를 확보하는 데 그 법을 엄격히 집행하는 것만큼 효과적인 방법을 알지 못한다.” – Ulysses S. Grant (1869) — 종종 Lincoln의 말로 잘못 인용되고 잘못 귀속됨
    https://en.wikiquote.org/wiki/Ulysses_S._Grant#First_Inaugur...
    https://en.wikiquote.org/wiki/Abraham_Lincoln#Misattributed

    • 대기업에서 일할 때, 모두가 인도에 외주 준 형편없는 IT 지원 때문에 괴로워했음. 인도 자체에 대한 얘기는 아님. 그런데 한 단계 위에는 국내에 있는 이사급 전용 IT 지원이 따로 있다는 걸 알게 됨
      또 대기업에서 이사할 때 상사가 새 오픈 오피스의 장점을 칭찬하고 기존 팀룸은 나쁘다고 했는데, 정작 새 배치에서 그는 개인 사무실을 갖고 있다는 걸 알게 됨
    • 더 나아가서, 권력이 클수록 사생활은 줄어야 한다고 봄

  • 이건 명백히 아동 포르노를 트로이 목마로 삼아 대륙 전체 감시 프로그램의 인프라를 만들려는 것임
    문제는 EU 기관들이 회원국과 너무 멀고 동떨어져 있어서, 이런 유럽 법이 각국에서 시행되기 전까지 대부분의 시민이 뭘 하는지 거의 모른다는 데 있음

    • 여러 나라 시민들이 자국 집권당의 “EU는 누구도 통제할 수 없는 외부 세력”이라는 서사를 받아들이기 때문에 그렇게 보이는 면이 큼
      현실의 EU는 대체로 각국 정당이 EU 기관으로 보낸 사람들로 구성됨. 국내 선거운동에 쓸모없다고 보거나 국내 정치에서 “보이지 않게” 만들고 싶은 사람들을 보내는 경우가 많음
      시민들은 이 서사를 받아들이지 말고, EU로 보낸 국내 정치인들의 활동 투명성을 요구하고, EU 안에서의 행동이나 비행동에 대해 그 정당에 책임을 물어야 함
    • 내 세금 중 얼마가 EU로 가는지 명확하지 않다는 게 아직도 이해가 안 됨. 이런 점이 EU가 동떨어져 있다는 느낌을 키움
    • “EU 기관들이 회원국과 너무 멀고 동떨어져 있다”는 주장의 근거가 뭔지 궁금함. 참고로 올해 EU 선거가 있음
    • 이건 선출직의 실패라고 부르겠음. 국가 정치인들과 마찬가지로 선출됐지만, 유권자에게는 꽤 멀게 느껴짐
    • EU가 정확히 어떻게 동떨어져 있다는 건지 모르겠음
      EU 의회는 선거로 뽑힘
      EU 집행위원회는 각 회원국이 임명한 위원들로 구성됨. 모든 회원국은 민주주의 국가이거나 그래야 하므로, 집행위원은 선출된 정부의 대표임
      이 얘기가 사실인 것처럼 반복되는 걸 계속 보는데, 물어보면 의미 있는 답을 받은 적이 없음

  • 이런 얘기가 내가 상대하는 비기술자들과 나오면 대화가 보통 “난 그런 건 없으니 걱정할 게 없다”거나 “좋네, 아동 학대범은 감옥에 가야지”로 흐름
    이런 관점에 맞설 대화 포인트가 뭐가 있을까?

    • “우편이나 이메일로도 불법적인 일을 안 하니까 정부가 그것도 읽어도 되겠네? 과속도 안 하니까 정부가 차에 블랙박스를 달아도 되겠네? 불법 다운로드도 안 하니까 정부가 PC의 모든 활동을 감시해도 되겠네? 회사에 잘못한 것도 없으니까 회사가 모든 활동을 감시해도 되겠네?”라고 묻는 식이 좋음
      “당신의 모든 온라인 활동과 채팅 기록이 실시간으로 ChatGPT에 전송되고, 그게 당신이 용의자인지 범죄자인지 결정해도 괜찮나? 아니라면 왜 정치인이 설계한 모호한 시스템은 괜찮은가?”
      “당신이나 배우자가 키가 작고 평균적인 백인보다 어려 보인다면, 예를 들어 평균 신장이 낮은 일부 아시아 국가 출신이라면, ChatGPT가 사진을 미성년자로 잘못 분류해 당신을 범죄자로 표시하지 않을 거라고 믿을 수 있나?”
      생각을 조금 확장하고, 사람들이 공감할 만한 기술적 오판 사례를 주면 꽤 민감하게 받아들임
    • “사실 당신도 숨길 게 있다”는 예시는 예전에 쓴 댓글에 모아둠
      https://news.ycombinator.com/item?id=37114262
      지금이라면 Israel이 AI로 폭격 대상을 결정한다는 논의도 추가하겠음. AI는 세탁기를 방금 산 사람에게 세탁기 광고를 보여주면 안 된다는 것도 이해할 만큼 똑똑하지 않은데, 테러리스트를 결정하기에는 충분하다고 여겨지는 모양임
      https://news.ycombinator.com/item?id=39918245
      그래도 개인적으로는 범죄자와 친척이라는 이유로 체포되고 경찰에게 부당한 대우를 받은 사람을 아는데, 그럼에도 경찰이 그런 권한을 가져서는 안 된다고 설득한 적이 없음. 이런 경우 대화 상대의 생각은 안 바뀌더라도, 그 대화를 듣는 사람들에게는 닿을 수 있다고 봄
    • 당장 떠오르는 건 두 가지임. “당신이 한 일 중 가장 부끄러운 걸 떠올리고, 이제 나한테 말해달라.” “휴대폰 잠금을 풀고 메시지, 사진, 앱을 전부 보게 해달라.”
      이렇게 숨길 것이 있다는 점을 확인하고 나면, 선을 어디에 그을지 이야기할 수 있음
    • 보통은 화장실에 비유함
      모두가 화장실에서 뭘 하는지 알지만, 그렇다고 화장실 칸막이 문을 유리벽으로 만들지는 않음
      일부는 화장실에서 마약을 하거나 숨기도 하지만, 그게 정말 사회 전체의 모든 화장실 문을 유리로 만들어야 한다는 뜻일까?
      집 화장실은 어떨까?
      대개 이쯤에서 문제를 보기 시작함
    • 숨길 게 없다면 휴대폰 잠금을 풀고 내가 뒤져보게 하라고 하면 됨. 모든 비밀번호도 달라고 하면 됨. 숨길 게 없잖아?
      실제로 응하는 사람은 0% 임
      또는 Four Horsemen of the Infocalypse를 인용할 수도 있음: https://en.wikipedia.org/wiki/Four_Horsemen_of_the_Infocalyp...

  • 지역 신문에 이 문제를 기사로 써달라고 메일을 보냈음. Süddeutsche Zeitung, 사실상 독일의 NYT 같은 곳임
    EU에 산다면 같은 일을 해보길 권함

  • 실제 제안된 규정 [0]은 꼭 볼 만함. 예를 들면 다음 조항이 있음
    “5. 이 규정은 호스팅 서비스 제공자나 개인 간 통신 서비스 제공자에게 데이터를 복호화하거나 종단 간 암호화 데이터에 접근할 수단을 만들도록 요구하는 의무를 만들지 않으며, 종단 간 암호화 서비스 제공을 막지도 않는다.”
    [0] 36쪽 이후: https://www.patrick-breyer.de/wp-content/uploads/2024/04/202...

    • 37쪽의 4a가 삭제 표시돼 있는 게 가장 많은 걸 보여줌. 그래서 4a를 복사해 삭제선 대신 의미를 뒤집어 쓰면 이렇다
      “이 규정은 호스팅 서비스 제공자가 전송하거나 저장하는 정보를 일반적으로 감시하고, 불법 활동을 나타내는 사실이나 정황을 적극적으로 찾을 일반 의무로 이어진다.”
      이 법의 목적을 잘 요약한다고 봄. China에 온 걸 환영함… 아니, EU에 온 걸 환영함

  • 유럽은 전체주의에 매우 빠르게 접근하고 있음. 보기 정말 슬픔
    사실상 더 이상 표현의 자유가 없고, 이제는 사적 통신까지 추적하고 통제하려고 함
    더 나쁜 건 모두가 다른 문화보다 도덕적으로 우월하다는 데 취해 있어서, 이런 일이 벌어질 수 있다는 사실조차 스스로 인정하지 못한다는 점임

    • 집행위원회는 확실히 제정신이 아니고, UK도 확실히 제정신이 아니지만, 전반적으로 상황이 나쁘다는 데는 동의하지 않음
      Germany라면 그럴 수도 있음
    • “유럽이 전체주의에 매우 빠르게 접근하고 있다”는 건 거짓임
      “사실상 표현의 자유가 없다”는 건 극우 서사이고, 오늘날만큼 틀린 적도 없음. 안타깝게도 지금은 오히려 극우 헛소리를 너무 많이 허용하고 있음
      “사적 통신을 추적하고 통제하려 한다”는 건 일부 집행부가 원하는 건 맞지만, 여전히 민주적으로 선출된 유럽 의회의 표결을 거쳐야 함. 유럽 의회는 이미 이 사안에 대해 [0]처럼 표결한 바 있음. 참고로 유럽 선거는 2024년 6월 6~9일임
      0: https://www.patrick-breyer.de/en/historic-agreement-on-child...
    • 완벽함이 선함의 적이 될 수 있음

  • 말은 되네. 그러면 EU 의장 von der Leyen이 BigPharma와의 비밀 백신 구매 거래가 담긴 SMS를 계속 삭제할 수 있겠지 [0]
    SMS도 어느 정도는 채팅 아닌가? 그래도 이제 ChatControl 면제를 받을 수 있다니 다행임
    [0] https://www.politico.eu/article/new-york-times-sue-european-...

    • Brussel 사무실에서 현금 가방을 들고 도망친 그 여성도 있지. 이름이 뭐였더라? 어떻게 됐는지 궁금함
      수정: Eva Kaili였음. 현금 150만 유로가 발견됨. 면책특권은 박탈됐지만, 여전히 의회 의원이고 완전한 투표권도 있음. 훌륭하네
      https://www.spiegel.de/ausland/eu-parlament-hebt-immunitaet-...

  • “EU 정부들은 6월 초까지 채팅 통제 법안을 채택하려 한다.”
    선거에 딱 맞춘 절묘한 시점이네

  • 이것 때문에라도 EU가 해체되는 편이 낫겠음

    • 이런 법은 허공에서 생겨나지 않음. 이런 아이디어는 회원국에서 나오고, 그 모든 회원국의 정치인들이 표결함
      그래서 EU가 없으면 이런 건 각 국가별로 하나하나 싸워야 함. 모든 정부는 감시를 좋아하고, 조만간 감시를 늘리려 할 테니까

  • 어, ChatControl 계획은 죽은 줄 알았는데 그냥 이름만 바꿔서 다시 시작한 건가?

답변달기