EU: 스캔 거부 시 사진·링크 공유 금지 가능성

• EU의 아동 성적 학대물 규제안인 chat control이 프랑스의 입장 변화 가능성으로 다시 EU 정부 승인을 받을 수 있는 국면에 들어감
• 2024년 5월 28일 초안은 채팅 앱·서비스 이용자에게 사적 이미지·사진·동영상의 자동 스캔과 신고 가능성을 수락할지 묻고, 거부 시 사진·동영상·링크 송수신을 제한함
• WhatsApp·Signal 같은 종단간 암호화 서비스도 전송 전 자동 검색을 구현해야 해, 실제로는 클라이언트 측 스캔으로 작동함
• 기존 초안의 그루밍 징후 텍스트 스캔과 음성 통신 스캔은 빠지지만, 보안기관·군 직원 채팅은 대상에서 제외될 예정임
• Council Legal Service는 비의심자에 대한 무차별 스캔이 기본권 침해라고 봤지만, 다수 EU 정부는 6월 4일 논의를 이어갈 계획임

---

“업로드 moderation” 초안이 바꾸는 것

• 논란이 큰 아동 성적 학대물 규제안, 이른바 chat control이 EU 정부 차원에서 다시 승인될 수 있는 상황임
  • Euractiv 보도와 내부 문서에 따르면 프랑스가 기존 거부권을 포기할 수 있음
  • 프랑스는 새 “upload moderation” 제안을 원칙적으로 가능한 선택지로 보고 있음
• 2024년 5월 28일자 최신 초안인 Council document 9093/24는 채팅 기능이 있는 앱과 서비스에 적용됨
  • 이용자는 사적으로 공유하는 이미지·사진·동영상에 대한 무차별적이고 오류 가능성이 있는 스캔 및 신고 가능성을 수락할지 질문받음
  • 이전에 알려지지 않은 이미지와 동영상도 인공지능 기술로 조사 대상이 됨
  • 스캔을 거부한 이용자는 이미지·사진·동영상·링크를 보내거나 받을 수 없음
• WhatsApp 또는 Signal 같은 종단간 암호화 서비스도 메시지 전송 전에 자동 검색을 구현해야 함
  • 초안은 이를 Article 10a의 클라이언트 측 스캔으로 다룸
  • Patrick Breyer는 이 방식이 기존의 안전한 종단간 암호화를 약화시키고 스마트폰을 감시 도구로 바꾼다고 비판함

제외되는 범위와 남는 쟁점

• 최신 초안에서는 초기 제안에 있던 일부 스캔 범위가 빠짐
  • 현재까지 거의 사용되지 않은 그루밍 징후 텍스트 메시지 스캔은 삭제될 예정임
  • 지금까지 시행된 적이 없는 음성 통신 스캔도 삭제될 예정임
  • 프랑스에 대한 양보로 보안기관과 군 직원의 채팅은 chat control에서 제외될 가능성이 있음
• 5월 24일 마지막 논의에서 Council Legal Service는 비의심자에 대한 무차별 chat control 스캔이 여전히 예상되며 기본권 침해에 해당한다고 밝힘
  • 그럼에도 다수 EU 정부는 추진 의지를 보이고 있음
  • EU 정부들은 6월 4일 논의를 계속할 계획임
• Patrick Breyer MEP는 Belgian proposal이 EU Commission의 초기 chat control 제안의 핵심을 그대로 구현한다고 비판함
  • 그는 21세기에 메신저를 순수 텍스트 용도로만 쓰는 것은 선택지가 아니라고 봄
  • 실제로 사용되지 않는 과도한 요소를 제거하는 것은 겉치레에 불과하다고 지적함
  • 무고한 시민의 사적 채팅과 사진이 신뢰할 수 없는 기술로 검색되고 유출될 수 있다고 경고함
  • EU 정부들이 이 입장으로 trilogue 협상에 들어가면 Parliament가 비공개 협상에서 초기 입장을 점차 포기하고 온라인 보안을 위험하게 하는 타협에 동의할 위험이 있다고 봄

[xguru]

이번 건의 경우는 정말 문제가 큰듯 한데 밀어붙이나 보네요.
EU가 애플한테 한 짓은 맘에 들지만 이건 너무 나갔다 싶어요.

[unsure4000]

어쩌면 애플한테 한 짓부터 잘못된거였을지도 몰라요... ㅠㅠ

[GN⁺]

Hacker News 의견들

• "보안 당국과 군의 직원 채팅도 채팅 통제에서 제외된다"면, 실제로 사적 대화를 들여다봐야 할 가능성이 가장 큰 보안·군 분야가 빠지는 셈 아닌가

  • 초안을 자세히 보진 않았지만, 그 집단뿐 아니라 비영리로 서비스를 쓰는 사람들도 제외된다는 게 황당함
    그러면 [1]처럼 직접 호스팅하면 이 법을 따르지 않아도 됨
    그런데 보안 당국자가 직접 호스팅한 인프라가 아니라 공개 서비스를 써서, 면제 대상이라는 전제상 기밀 데이터를 보낼 수 있다는 뜻인가
    그리고 @WA가 말한 것처럼, 이런 공무원들의 연락처 목록을 모든 영리 조직에 제공하게 되는 건가
    정말 멍청한 농담 같음
    [1]: See third row at https://www.patrick-breyer.de/en/posts/chat-control/#current...
  • 현실에서 이걸 어떻게 구현하겠다는 건가? Meta, Apple, Google에 군·보안 인력 계정의 전화번호 목록을 제공해서 링크/사진 공유 기능 플래그를 켜주자는 건가
  • EU 공무원과 정치인의 채팅이 면제되지 않았다는 게 놀라움. 틀림없이 실수일 테고 곧 고쳐질 듯함
  • 이들은 AI가 인간 대신 처리하고, 목적도 아동 성착취물 적발뿐이라서 사생활을 보존한다고 주장함
    그 주장이 사실이라고 치더라도, 특정 집단을 예외로 두는 기능은 무엇을 위한 건가? 그 집단이 아동 성착취물을 만들고 유통하도록 일부러 예외를 주는 게 아니라면 설명이 안 됨
    더 그럴듯한 결론은 사생활 보호나 목적 제한에 관한 주장이 거짓이라는 쪽임
  • 당국이 쓰는 플랫폼이 이들을 제외하지 않고 모두와 똑같이 스캔해도 되는 건가, 아니면 이런 스캔은 일반 시민에게만 적용된다고 법에 박아두는 건가

• 이런 조치가 뭔가를 늦추기라도 할 거라고 생각한다는 게 믿기 어려움. 어떤 법은 안전과 자유 사이의 절충으로 볼 수 있지만, 이 경우에는 범죄자에게 뭐가 더 어려워지는지조차 잘 모르겠음
  이런 플랫폼에서 문제 있는 걸 공유하면서 텍스트를 보낼 수 있다면 링크도 보낼 수 있음. "링크를 허용하지 않는" 플랫폼에서도 사람들은 새 표기 관습을 만들든 해서 일반 텍스트로 공유함. 다른 플랫폼을 쓰면 되기도 하니 억제 효과가 어디 있는지 모르겠음
  결국 기술을 이해하지 못하는 사람들이 법을 만들어 생기는 성가신 규제일 뿐임

  • "성가시다"는 이 사안에 대해 할 수 있는 가장 긍정적인 해석임
  • 많은 사람의 기술 지식과 역량을 과대평가하는 것 같음. 교묘한 직업 범죄자마다 멍청해서 멍청한 짓을 하는 멍청이도 있고, 교묘한 직업 범죄자도 실수를 함
    물론 100%를 잡지는 못하겠지만, 그런 법이나 조치는 거의 없음. 그리고 그런 수준을 달성하는 조치는 대개 엄청난 오탐을 동반함
    링크도 스캔하기 어렵지 않고, 아동 성착취물을 아무 데나 "그냥" 올려도 결국 문제가 안 생길 거라고 기대하기도 어려움. 뭘 하는지 정확히 아는 경우라면 다시 앞 문단으로 돌아감
    이 법이 0명이 아닌 누군가는 잡을 거라는 점은 부정하기 어렵고, 정확히 몇 명일지는 사전에 판단하기 어려움. 그렇다고 좋은 법이라는 뜻은 아니지만, "아무도 못 잡는다"류의 반론은 나쁜 논거임
  • 이들은 그런 조치가 효과 있다고 믿지 않거나, 관심이 없음. 이런 조치의 목적은 두 가지임
    첫째, 누군가 뭔가 하고 있는 것처럼 보이게 만드는 것임. 유권자들은 대표자가 특정 뜨거운 이슈를 해결할 힘이 없다는 사실을 받아들이지 않음. 새 법이나 규제가 효과가 거의 없거나 없어도, 입법자들이 "전문가"에게 좋은 말을 하게 만들 수 있으면 쟁점을 이해하지 못하는 많은 유권자가 어느 정도 만족함
    둘째, 감시 기술을 계속 구축하고 정상화해 일상으로 만드는 것임. 정부 쪽 사람들이 사적으로 할 수 없는 일을 더 많이 의무화할수록, 그들이 원하는 거의 무엇이든 하기가 쉬워짐
  • 링크조차 필요 없음. 이미지를 base64로 변환해서 보내거나 7z로 압축·암호화해 보낼 수 있음. 다른 방법도 많을 것 같음
    다만 휴대폰에서 얼마나 접근성이 좋을지는 별개지만, 그렇게 어렵지는 않을 듯함
  • 나쁜 콘텐츠가 "다른 곳"에 호스팅되는 것만으로도 서비스 제공자에게는 이득임. 유해 행위자가 이용할 수 있는 안전지대가 줄어듦
    공개 콘텐츠도 심층 방어의 일부로 스캔할 수 있음

• 권한 있는 책임자들이 자기 책임을 수행하는 데 무력감을 느끼면, 공황 상태로 무고한 사람들을 불편하거나 해로운 상황에 밀어 넣고 모두를 위험하게 만듦. 실제 문제를 일으키는 비교적 소수의 가해자를 잡는 대신 그렇게 됨
  수년간 그런 예를 너무 많이 봤고, 대중의 분노가 클수록 관련되거나 책임 있는 극소수보다 전체 대중이 받는 피해가 커졌음. 정작 그들은 방식만 조금 바꿔 계속하고, 대중만 망가짐

  • 이건 아동 학대를 돕겠다는 진짜 의도라기보다 연막처럼 느껴짐. 포식자에 의한 아동 학대가 전체 인구를 감시망 아래 둘 만큼 큰 문제인가? 포식자는 아마 인구의 0.1%도 안 될 가능성이 큼
    정부나 공개 기업에 외주 주기보다, 부모가 자녀를 보호할 수 있도록 도구를 제공하고 교육하는 편이 더 나음
  • 권한 있는 책임자들이 무력감을 느낀다는 건, 달리 말하면 이들의 끝없는 권력 중독이 문제라는 뜻임
  • 그들은 책임 있는 사람들이 아님. 평생 막대한 돈을 받으며 책임을 진다고 많은 사람을 설득했을 뿐, 실제로는 책임지지 않음. 책임은 가해자에게 있음
  • 현대 세계에서 법을 집행하고 범죄자를 잡는 건 치안 조직의 일임. 그들은 권리, 헌법, 도덕에는 관심 없고 앞으로도 없을 것임
    그래서 이런 일을 벌이는 사람들을 뽑은 시민들이 다음 기회에 정치인을 해고하고 왜 해고됐는지 알려야 함. 경찰은 전갈이고, 전갈은 자기 본성대로 행동함. 그들이 집행하는 법을 만드는 멍청이들을 해고해야 하고, 새 법의 진짜 근원은 경찰이 아니라 그들임
  • 온라인에서 그런 가해자들을 잡기 어려운 큰 이유는, 그들이 대부분 자기 나라 안에 있지 않을 가능성이 높기 때문임

• 이런 법이 만들 수 있는 혼란은 이런 식임
  https://mjtsai.com/blog/2022/08/22/google-account-deleted-du...
  https://news.ycombinator.com/item?id=32538805

  • 부모님 집에 머무는 어린 아들이 수영장에서 수영을 배우는 사진과 영상을, 부모님에게 디지털로 공유하지 말라고 해야 할지도 모른다는 게 정말 걱정됨. WhatsApp으로 사적으로 보내는 것조차 오탐이면 인생을 망칠 수 있음
  • 아무 보호 장치도 없다면 Google은 아동 성착취물의 거대한 호스팅·유통 촉진자가 될 것임. 이 점에 순진해져서는 안 됨
    진짜 문제는 Google 지원이 악명 높게 없거나 이해하기 어렵다는 점임. 거기에 "평생 차단" 같은 흑백식 처리, 합리적으로 독립적인 곳에 항소하기 어려운 구조가 결합됨. 계정이 차단될 수 있는 무고한 이유는 아주 많고, 이건 그중 하나일 뿐임
    아무나 업로드하거나 전송할 수 있게 하는 서비스는 최악의 인간들을 끌어들이는 파리끈이 됨. 어떤 형태의 보호 장치는 정말 필요함
    한 걸음 더 나아가, 삶의 많은 측면에 얽히는 거대한 플랫폼을 제공한다면 원하든 원치 않든 일정한 책임을 받아들여야 함. 최소한 대략이라도 도움이 되는 지원을 제공해야 하고, 아동 성착취물의 대규모 호스트가 되지 않아야 함
    수리 기사로 일하던 시절, Flash Player가 작동하는지 보려고 Google Video 첫 화면에서 아무거나 눌렀는데 어떤 남자가 자기 머리를 날려버리는 영상이 나온 적이 있음. Kazaa나 warez 사이트 같은 곳에서도 "어린 12세 Alice가 작은 가슴을 자랑스럽게 보여준다"류를 굳이 찾지 않아도 꽤 흔히 마주쳤음
    이 모든 것의 균형점을 어디에 둘지는 어려운 질문이지만, 균형 자체가 존재하지 않는 척하는 건 도움이 안 됨

• 이 안은 이사회가 밀어붙이고 있지만, 최종 결과에는 아직 영향을 줄 수 있음. 이런 쓰레기에 관여하지 않은 정당에 투표해서 거부되게 만들면 됨. EU Pirate Party는 아직 일부 지역 투표용지에 있음
  이게 법으로 올라가면 내 예상은 ASCII 아트의 귀환임

  • 아니, 이 계획은 노골적으로 사악함. 쿠키 배너 광기에서 배웠듯 사람들은 방해물을 없애려고 항상 모든 것에 동의함. 이 제안은 가짜 선택지를 줌. EU에서는 실제 생활의 많은 조율이 WhatsApp에서 이뤄져서, 의미 있게 참여하려면 동의할 수밖에 없음
    친구와 휴가 사진을 공유하는 얘기가 아니라 이런 것들임
    "비영리 단체 세금 처리 방법을 설명하는 링크입니다", "새 학교 로고입니다", "축구 대회 일정 링크입니다" 같은 것들임
  • 실제로는 이용자 99.99%가 전혀 신경 쓰지 않고 그냥 스캔을 허용할 것임. 아직 못 느꼈다면, 사람들은 정말로 신경 쓰지 않음

• 약간 주제에서 벗어나지만, EU가 뭔가를 규제 완화한 적이 있는지 궁금했음. 새 법과 조항만 추가하는 건가? 코드 줄 수로 보상받나? 폐지하거나 규제를 푼 법의 예가 뭐가 있나

  • 규제 완화도 당연히 일종의 규제지만, 떠오르는 건 이것임
    https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX:32...
    요약은 여기 있음: http://publications.europa.eu/resource/cellar/c56fbf1c-97bd-...
    이 지침은 제품 용량에 관한 여러 국가법을 폐지했음. 예컨대 프랑스에서는 샴푸를 250ml나 500ml 병으로는 팔 수 있었지만 295ml로는 팔 수 없었고, 버섯도 250g이나 500g 상자로는 팔 수 있었지만 230g이나 490g으로는 팔 수 없었음
    이제는 가능해졌고, 결과적으로 슈링크플레이션을 가능하게 한 규제 완화가 됨
  • 그렇다. 유럽연합 모든 국가를 자유롭게 이동할 수 있고, 대부분 같은 통화를 쓰며, 휴대폰 로밍 비용 없이 이용하고, 필요하면 의료 서비스를 받을 수 있음. 이건 규제를 더 부과한 결과가 아니라 규제를 줄인 결과임
  • 규제 완화를 무엇으로 보느냐에 달려 있음. 단일 시장과 노동의 자유로운 이동을 통해 단순화된 부분이 많음
  • 그렇게 보일 수 있다는 건 놀랍지 않음
    내게는 EU와 미국의 식품 안전 처리 방식이 양쪽 철학을 잘 요약함. EU에서는 식품이 허용되려면 안전하다는 점이 입증되어야 하고, 미국에서는 식품이 금지되려면 안전하지 않다는 점이 입증되어야 함
  • 아쉽게도 EU만 특별히 그런 건 아님
    요즘 규제 완화는 별로 인기 없지만, 여기저기서 가끔 일어나긴 했음

• 그럼 우리의 기본권, 제7조는 어떻게 되는 건가

  CHARTER OF FUNDAMENTAL RIGHTS OF THE EUROPEAN UNION
  (2012/C 326/02)
  Article 7
  Respect for private and family life
  Everyone has the right to respect for his or her private and family life, home and communications.

• 이 법을 모두 지지하되, 한 가지만 추가하면 됨
  EU 안에서 정치인, 공무원, 그리고 그 가족들이 공유하는 모든 데이터는 공개·분석되어 부패 조사에 쓰이고 영구 보관되어야 함
  우리가 모두 소아성애자로 간주된다면, 모든 정치인은 범죄자임
  물론 몇몇은 억울하게 고발될 것이고 우리 모두 자유를 잃겠지만, 선거 때마다 이전 정부가 감사를 받고 부패와 다른 범죄가 드러날 작은 기회가 생김
  그 정도면 해볼 만해 보임

  • 전자를 하지 않고도 후자를 할 수 있음. 물론 정치인들은 자기 자신에게 불리한 일은 절대 하지 않겠지만

• 긍정적으로 보자면, 반발이 새 세대에게 낡은 화석들을 역사의 쓰레기통으로 보내도록 자극할 것임
  https://youtube.com/watch?v=-wntX-a3jSY
  더 세게 움켜쥘수록 더 많은 항성계가 손가락 사이로 빠져나갈 것임

  • 그렇게 되길 바랄 뿐임. 다만 모두가, 적어도 미국에서는, 훨씬 더 권위주의적으로 변한 걸 보면 큰 기대는 못 하겠음. 진심으로 이 싸움에 행운을 빔
  • 내가 본 "새 세대"의 모습은 평균적으로 어떤 명분이든 어떤 권위에도 섬뜩할 정도로 잘 순응하는 쪽에 가까움. 그리고 반항적인 예외들 중 일부는 꽤 나치스럽기도 함
    물론 이전 세대와 크게 다르지는 않지만, 거대한 반권위주의 물결은 절대 아님
    어느 나이대든 실제로 불편을 겪을 때만 안정적으로 반발함. 대부분은 감시를 받아들이고 다시 멍청한 밈을 공유하러 돌아갈 것임. 어쨌든 너무 늦기 전까지는
  • 아니면 Putin의 러시아 변형처럼 될 수도 있음. 권력의 나사가 점점 조여지다가 Putin이 절대권력을 갖게 된 식으로
  • 이건 순진한 관점임
    이런 제안이 계속 돌아오는 이유는 업계 자율 규제가 해결하지 못한 정당한 우려가 있기 때문임
    좋은 조치에 대해 아무도 대화하려 하지 않으면, 정치인들은 새 정치인이더라도 다시 시도할 것임
    생성형 AI의 무책임한 배포가 이 영역에서 벌이는 일은 정말 끔찍함. 그런데 모두 "어차피 수학은 못 막으니 아무것도 안 하겠다"거나, 암묵적으로 "목적이 수단을 정당화하니 AGI를 얻기 위해 아이 몇 명을 희생해도 된다"는 식으로 치부됨. 외부에 보이는 모습이 최악임
    기술 업계가 스스로 책임지지 않으면 사생활은 조만간 죽을 것임. 정치인들은 한 번만 이기면 됨

• 첫 수백 건의 오탐과 그 사연이 뉴스에 나오고, 다음 선거에 어떤 영향을 주는지 기다려보면 됨. 몇몇 정당은 그걸로 선거운동을 할 것임

  • 이전 보도에 따르면 스캔의 오탐률이 10% 라고 함[1]
    [1] https://www.reddit.com/r/privacy/comments/voaicx/10_error_ra...
  • 하지만 그때는 이미 너무 늦음. 필터와 허용 목록을 조정하겠다고 약속하겠지만, 결국 스캔은 남을 것임
    이 법을 구현하려면 그들은 한 번만 성공하면 되고, 그러면 계속 남음. 우리는 매번 폐지에 성공해야 하며 단 한 번도 실패하면 안 됨