우리가 “연령 확인”이라고 부르는 것은 실제로 대규모 감시다

 (pluralistic.net)
2P by GN⁺ | ★ favorite | 댓글 1개
  • 온라인 플랫폼의 아동 유해성을 줄이자는 논의가 연령 확인 의무화로 수렴하지만, 실제 구현은 모든 이용자의 활동을 추적·기록하는 대규모 감시에 가까움
  • 반 Big Tech 진영과 Heritage Foundation 지원 문화전쟁 진영은 서로 다른 이유로 최소 연령 제한에 동의하지만, 그 수단은 광고 감시 산업의 추적 인프라를 법으로 강화함
  • 연령 확인은 우회 수단으로 VPN 사용을 늘리고, 이후 VPN 금지 논의로 이어질 수 있어 프라이버시 회피 자체가 공격받을 위험이 있음
  • 유해 콘텐츠 추천, 대출·일자리·임대 차별 같은 온라인 해악은 대부분 감시 데이터를 기반으로 작동함
  • 아이들을 감시에서 보호하려면 감시를 줄여야 하며, 아이들을 더 감시해 보호하겠다는 방식은 프라이버시를 불법화하는 방향으로 움직임

연령 확인은 인터넷용 신분 확인이 아니라 감시 인프라임

  • 온라인 플랫폼이 아이들에게 끼치는 해악에 관한 연구는 복잡하지만, 작고 애매한 연구가 아이들이 인터넷 때문에 파괴되고 있다는 확정적 증거처럼 쓰이는 경우가 있음
  • 서로 다른 진영이 최소 연령 제한이라는 같은 결론에 도달함
    • 반 Big Tech 활동가들은 플랫폼이 사용자 복지를 무시한다고 여김
    • Heritage Foundation 지원 문화전쟁 진영은 아이들이 LGBTQ 콘텐츠에 노출되지 않으면 퀴어로 커밍아웃하지 않을 것이라고 봄
  • 인터넷에서의 “연령 확인”은 모든 이용자가 온라인에서 무엇을 하는지 세밀하게 추적하고 기록하는 구조로 이어짐
  • 이런 방식은 광고 기술 업계의 상업적 감시보다 더 침습적이며, 추적을 피하는 행위 자체를 불법화하는 세계를 만들 수 있음

VPN, 얼굴 나이 추정, 그리고 우회-금지의 연쇄

  • 연령 확인 의무는 아이들에게 VPN 사용법을 가르치는 정부 정책처럼 작동할 수 있음
  • 이후 단계에서는 VPN 금지가 논의될 수 있으며, 영국에서 VPN 금지가 검토된다는 보도가 사례로 등장함
  • 기술 업계는 연령 확인 의무가 이런 연쇄를 만들 수 있다는 점을 알면서도, 이를 추진하는 진영의 동맹처럼 움직인다는 비판을 받음
  • 휴대폰 카메라로 17세 364일인 아이와 막 18세가 된 성인을 구분할 수 있다고 주장하는 얼굴 나이 추정 업체들도 문제로 지목됨

온라인 해악의 출발점은 감시 데이터임

  • 아이들이 알고리듬의 표적이 되는 이유는 감시 데이터가 존재하기 때문임
  • 프로아나 콘텐츠나 극단적 여성혐오 포럼으로 유도되는 과정도 상업적 감시가 만든 데이터와 추천 흐름을 전제로 함
  • 기술 기업들이 아이들을 감시하는 이유는 “할 수 있고, 아무도 막지 않기 때문”이라는 진단이 나옴
  • 미국은 1988년 VHS 대여 기록 공개를 금지한 이후 소비자 프라이버시 법을 업데이트하지 않았음
  • EU에는 GDPR이 있지만, Big Tech 관련 GDPR 사건이 아일랜드에서 제대로 처리되지 않는다는 문제가 남아 있음

정부와 법 집행의 실패가 연령 확인 법으로 이동함

  • 여러 국가는 정도의 차이는 있지만 프라이버시 법을 갖고 있으나, 미국 기술 대기업에 비해 집행 역량이 크게 부족함
  • 미국 기술 대기업은 Trump 정권과 결합했고, 다른 나라가 이 기업들을 규제하려 하면 Trump가 제재를 가할 수 있다는 우려가 나옴
  • 아이들을 온라인 해악에서 보호하려면 온라인 감시로부터 보호하는 일부터 시작해야 함
  • 그러나 정부들은 오랫동안 인터넷 프라이버시 통제를 통과·집행하지 못한 뒤, 이제는 프라이버시를 불법화하는 연령 확인 법을 빠르게 통과시키고 있음
  • 이런 법안들이 감시를 많이 하고 통제를 선호하는 기술 기업들의 지지를 받는다는 점이 문제의 성격을 드러냄

감시 데이터는 아이들뿐 아니라 모두에게 쓰임

  • 온라인 감시는 아이들뿐 아니라 성인에게도 해를 끼침
  • 알고리듬이 가족을 QAnon으로 이끌었다고 보거나, 온라인 감시 데이터가 대출·일자리·임대 거절에 쓰였다고 의심하는 사람도 프라이버시를 원해야 함
  • 온라인 감시는 사용자가 지불하는 가격을 올리고, 제안받는 임금을 낮추는 데도 쓰일 수 있음
  • 오늘 “연령 확인”에 쓰이는 데이터가 내일은 ICE가 단속 대상을 찾는 데 쓰일 수 있다는 경고가 붙음
  • 아이들을 온라인 감시로부터 보호하는 방법은 아이들을 더 감시하는 것이 아니며, 그런 주장은 더 많은 감시 수단을 팔기 위한 단계로 작동함

함께 보면 좋은 글 β

GN⁺   [-]
Hacker News 의견들

  • "연령 확인"이 곧 온라인에서 무언가를 하는 모든 사람이 자신의 모든 활동을 세밀하게 추적·기록당해야 한다는 뜻은 아님
    이미 여러 번 나온 얘기지만, 연령 확인은 100% 성공률을 목표로 하지 않는 한 24시간 감시 디스토피아가 될 필요가 없음. 다른 법에서도 100% 성공은 해본 적이 없고, 누구의 권리도 침해하지 않으면서 90% 이상 효과를 낼 합리적 제안은 여럿 있음
    권력자들 중 상당수도 이걸 알지만, 이번 기회를 완전한 디스토피아 버전을 밀어붙이는 계기로 보고 있다고 확신함

    • 구체적으로 어떤 방식을 생각하는지 궁금함. 개인적으로는 신용카드 확인, 사진 신분증 확인, 얼굴 인식 중 하나 없이 나이를 확인하는 방법이 잘 보이지 않음
      누군가의 나이를 낮은 정확도로라도 확인할 만큼 충분히 안다면, 대체로 그 사람이 누구인지 특정할 만큼의 정보도 알게 됨
      심지어 요즘은 사람과 봇도 제대로 구분하기 어려운 경우가 많음. 일부 봇이 빠져나가는 건 받아들이고 있지만, 봇 식별이 아이 식별보다 훨씬 쉬워 보이기도 함
    • 그런 전설적인 절충안은 어디에 있음? 영국에서 접속하는 웹사이트 절반은 전체 기능을 쓰려면 얼굴을 스캔하거나 신분증 문서를 올리라고 함
      이용자들이 이미 이런 흐름을 받아들이도록 길들여진 뒤라, 개인정보를 덜 수집하는 방법을 찾는 데 관심 있는 곳은 거의 없어 보임. 다들 제3자에게 처리를 맡겨 책임을 피하는 데만 관심이 있음
    • 맞음. 술을 살 때 내가 산 맥주마다 기록 추적이 필요하지 않은 것과 같음
    • 연령 확인이 실제 목표라고 생각하지 않음. 목표는 완전한 감시와 정보 통제라고 봄
      연령 확인은 독약에 설탕을 입히는 명분일 뿐임
    • 사실 "연령 확인" 자체도 필요 없음. 표면상의 목표가 부모가 원치 않는 콘텐츠를 아이가 보지 못하게 하는 것이라면, 필요한 건 웹사이트가 해당 이용자가 아동이라는 신호를 알 수 있는 표준 방식뿐임
      신원도 실제 나이도 필요 없고, 복잡한 암호학적 해법도 필요 없음
      California가 맞는 방향을 잡았다고 봄. 클라이언트가 사용자가 성인이 아님을 표시하는 표준 방식을 만들고, 웹사이트가 그 플래그를 따르도록 의무화하며, 운영체제가 기능을 포함하고 브라우저가 사용하게 하면 됨
      결국 기기 소유자는 연령대 플래그를 원하는 대로 설정할 수 있고, 부모가 아이에게 원하는 설정이 된 기기만 쓰게 하면 됨. 부모는 8살 아이의 연령대를 원하는 그룹으로 지정하고 웹사이트가 이를 존중한다고 믿을 수 있음

  • 아이들을 감시하지 않고서는 모두를 감시할 수 없고, 어차피 그들이 관심 있는 건 모두를 감시하는 부분임
    궁극적으로는 승인된 기기를 쓰는 모든 사람에 대해 24시간 실시간 얼굴·생체 감시를 하고, 승인된 기기만 네트워크에 접속해 뭔가 할 수 있게 만들고 싶어 함
    지하실에서 GhostBSD로 버틸 수 있다고 생각하는 용감한 괴짜들도 있겠지만, Gandalf의 말처럼 자신을 울타리 안에 가둘 수는 있어도 세상을 밖으로 막아낼 수는 없음. 결국 모두에게 올 것임

  • 부모는 대체로 아이가 접근할 수 있는 것을 통제함. 기기든 데이터 요금제든 집 Wi-Fi든 마찬가지임
    부모가 통제하지 않거나 통제할 수 없는 영역은 어떤 규제나 기술로도 해결되지 않음
    이건 소셜 미디어뿐 아니라 마약, 술, 포르노에도 적용됨. 법과 신분증은 마찰을 만들고 그건 좋은 일이지만, 아이가 정말 원하면 방법을 찾아냄
    소셜 미디어에는 새 규제와 신분증 요구 없이도 이미 마찰이 있었음. 접근하려면 아이 입장에서는 꽤 비싼 기기와 인터넷 연결이 필요하고, 둘 다 공짜가 아님
    가장 큰 문제는 술·마약·포르노와 달리 아이들이 소셜 미디어를 써야 할 그럴듯한 이유가 있다는 점임. 스포츠팀, 댄스 수업, 청소년 모임 등이 연락과 단체 소통을 원하고, 담당 어른들이 Instagram 같은 앱으로 단체 소통을 처리하는 경우가 너무 많음. 결국 아이에게 IG 계정이 필요해짐

    • 소셜 미디어를 안 쓰는 성인 입장에서도, 회사 홈페이지를 Facebook으로 쓰거나 단체 소통 포럼처럼 쓰는 건 문제라고 봄
      특히 Meta가 계정 없이 콘텐츠를 보기 점점 어렵게 만들고 있어서 더 그렇다
    • 내 삶에서 이런 식의 소통에 소셜 미디어를 쓰는 일이 전혀 없어서 다행임. 사람들에게 연락하는 방식으로도 형편없음
      게시물이 알고리즘에 의해 대상 사용자에게 돌 때까지 며칠 늦게 뜨거나 아예 안 뜰 수 있음. 반면 이메일은 항상 동작함. 대량 문자 발송 서비스도 있음
    • 단체 소통에 Instagram 같은 소셜 미디어 앱을 쓰는 게 오래전부터 문제였음
      책임감 있는 부모들은 정해진 시간에 직접 만나서 모든 걸 처리하자고 강하게 반발했음. 그 이전에도 아이들이 실내에 갇혀 오락에 중독된다는 우려가 이미 있었음
      결국 게으른 다수가 "누가 신경 씀?"이나 "모든 세대가 늙으면 다 그렇게 말함!"을 아무 생각 없이 반복하면서 밀렸고, 운영자들도 일을 덜 하는 방법으로 봤음
      이제 여기까지 왔고, 젊은 사람들조차 이게 멍청하다는 데 동의함

  • 핵심 우려는 투명성임. 지배·통치 계층이 이런 감시 시스템을 남용하거나 자신들은 감시에서 제외하지 않는다는 걸 어떻게 알 수 있음?
    모두가 같은 감시를 받고 예외가 없다면 공정하다고 볼 수 있음. 하지만 인맥이나 관계 때문에 일부가 감시에서 제외된다면 불공정함
    또 감시 위치에 있는 일부가 인종, 종교, 국적 같은 속성을 이유로 다른 사람을 괴롭히거나 스토킹할 수 있다면 그것도 불공정함
    완전한 투명성이 필요함

    • 결과에 대한 책임이 없으면 투명성은 의미 없음. 현재 집권 중인 여러 정부가 이미 그걸 보여줬음
    • "자신들은 감시에서 제외"라는 게 Chat Control 제안에 있지 않았나? 정치인과 다른 중요 인물은 예외라는 식으로
    • 이건 지금 권력을 가진 사람이나 접근권을 가진 사람만의 문제가 아님. 다음은 누구인가?
      이미 국민과의 신뢰가 깨졌거나, 데이터가 알 수 없는 미래 행정부로 넘어갈 수 있는 상황에서 "우리를 믿어라"는 방식은 통하지 않음
      내 신뢰를 얻는 가장 좋은 방법은 애초에 그 데이터를 원하지 않는 것임
    • 모두가 같은 감시를 받는다고 해서 공정한 건 아님. 모두가 노출을 좋아하는 건 아니기 때문임
      어떤 사람은 자기 삶을 아주 공개적으로 드러낼 때 잘 살지만, 어떤 사람은 훨씬 사적인 삶을 선호함
    • 그러니까 문제 전체만 빼면 괜찮다는 건가
      Orwell식 지옥에서도 인종 프로파일링은 없어야지. 그게 있으면 정말 선을 넘는 거니까

  • Canada에서는 소셜 미디어와 AI 회사들이 16세 미만이 콘텐츠에 접근하지 못하게 하는 시스템을 마련해야 하는 방향으로 갈 것 같음
    회사가 플랫폼에서 아이들을 보호할 충분한 대안적 구조적 안전장치를 만들고 유지한다는 점을 규제기관에 납득시키면, 정부가 예외를 줄 수 있음
    또한 회사는 이를 엄격한 데이터 최소화 방식으로 해야 하고, 결과는 익명화된 뒤 확인이 끝나면 즉시 파기되어야 함
    인터넷은 어느 정도 실망스러운 존재가 됐고, 특히 소셜 미디어가 그렇다. 신분증을 올리거나 흰머리를 스캐너에 넣어야 한다면 그 웹사이트나 앱은 내게 죽은 것이고, 다른 걸 쓰거나 아예 안 쓸 것임

    • "인터넷이 어느 정도 실망스럽다"는 건 굉장히 절제된 표현임
      나도 같음. 은퇴하면 집에 있는 모든 컴퓨터를 버리겠다고 농담하곤 했는데, 정부가 사실상 대신 그렇게 해줄지도 모르겠음
      웹사이트에 내 신분증을 넘기지는 않을 것임. 그건 넘을 수 없는 선임

  • 아이들을 감시로부터 구하는 게 핵심 우려라고 보지는 않음. 더 큰 우려는 사용 자체가 아이들에게 미치는 직접적인 부정적 영향임
    물론 연령 확인이 문제가 없다는 뜻은 아님

    • 이 글의 다소 미묘한 핵심은 그 감시가 부정적 효과를 강력하게 만든다는 데 있음
      소셜 미디어는 사용자가 무엇을 보는지 감시한 뒤 그와 비슷한 것을 더 보내고, 그 정보를 다른 사람들에게도 보내서 그들도 같은 걸 더 보내게 함
    • 그러면 미성년자의 스마트폰을 아예 금지하는 게 낫겠음. 아동 안전과 정신건강에 가장 큰 단일 개선을 만들 가능성이 큼
      콘텐츠를 단속하려는 시도는 완전히 시간 낭비임

  • 우리는 망했음. 내가 가르치는 어린 학생들은 학교에서 GoGuardian이 자신들을 감시하는 데 완전히 익숙해져 있음
    관리자들은 인터넷을 해부해야 한다는 필요성을 계속 강조하고, Chromebook을 컴퓨터가 아니라 미디어 소비 기기로 취급함. 내년에는 여기서 더 심해진다고 들었는데, 어떻게 더 심해질 수 있는지 모르겠음
    이 사람들은 위험 완화에 너무 집착해서 이제 기술 수업을 할 가치조차 없어짐. 위험은 없어야 하고, 항상 100% 통제되어야 한다는 식임

  • 긴 이야기를 다 써놨다가 다시 생각하고 지웠음. 원래 거의 글을 안 쓰지만, 이건 내가 해온 일들과 너무 직접적으로 닿아 있음
    살아 있고 싶고, 조용히 로봇과 AI 일을 하며 지내고 싶어서 이야기는 하지 않겠음
    정부가 어떤 연령 확인 기술이 아이들의 안전을 위한 것이라고 말한다면, 그 아이디어는 거의 확실히 정부의 것이 아님. 진짜 기업 권력과 그림자 같은 계약업체·정보기관의 기울기에 의해 꼭두각시처럼 움직이는 것임
    예전에 미국의 한 프로젝트에서 같은 종류의 서사가 막후에서 펼쳐지는 걸 봤음. 지금도 비슷한 시스템과 데이터 중개업체들과 일하고 있음
    이제는 내 기술로 실제 도움이 필요한 사람들, 중소기업과 소비자 등을 돕는 것을 만들기 위해 떠나려 함. 지쳤음
    온갖 일을 다 해봤고 열심히 일하는 스타트업 기술 마법사를 뽑는다면 연락 바람

  • 미국에서 여권을 깜빡해서 나이트클럽 입장을 거부당했던 일이 떠오름. 유럽 신분증이 있었고 40대인데도 그랬음
    오프라인에서도 나이 확인은 이미 종종 경직된 승인된 신분증 확인으로 변함. 온라인에서는 그 문제가 더 심해 보임. 확인 절차가 웹 전반에 걸친 지속적 신원 계층이 될 수 있기 때문임

    • 서부 해안이 느슨해서 그런 건지 모르겠지만, 여기서는 신분증 검사를 거의 안 함. 바텐더들은 아예 카드를 보지 않음
      신분증을 요구받는 곳은 입구에 경비원을 세운 경우뿐인데, 그것도 아주 붐빌 때나 있음. 그들 역시 주로 10대를 막고 싸움을 말리는 역할이고, 주류 면허 위반 위험을 피하려고 카드만 1초쯤 흘깃 봄
      특정 나이트클럽들은, California에서는 못 봤지만 NYC와 Miami에서는 봤는데, 남자들에게 이상한 짓을 자주 함. 남자들끼리 오면 아마 들여보내지 않을 것임. 남녀 비율이 맞아야 함. 여자들만 온 그룹은 거의 확인도 없이 들여보냄

  • 핵심 문제는 미래에 극우·극좌·권위주의 쪽으로 이동한 정부가 남용할 수 있는 인프라를 제공하는 것임
    예를 들어 Russia는 아동 안전을 이유로 웹사이트 차단 인프라를 만들었지만, 훨씬 더 넓게 쓰이기 시작했음

    • US가 실시간으로 보여주는 사례가 있음. 대체로 모두가 상대편이 정부를 장악하면 무슨 일이 벌어질지 걱정하다가, 자기편이 권력을 잡으면 자신이 얼마나 걱정했는지 곧바로 잊어버림
    • 그게 정말 핵심 문제로 여겨졌다면 우리는 감시 자본주의에 맞서 싸우고 있었을 것임. 대신 우리는 그 문제를 한 자릿수 이상 더 악화시킨 LLM 회사들을 응원하고 있음
      솔직히 말하면, 우리가 추적당하는 걸 신경 쓰는 유일한 순간은 이상하게도 포르노에 접근할 때뿐임. 더 솔직히 말하면, 그때도 이미 추적당하고 있음
답변달기