Hacker News 의견

• ICE가 Mobile Fortify 앱의 생체인식 결과를 ‘결정적’이라고 간주하고, 출생증명서 같은 시민권 증거도 무시할 수 있다고 들음
  결국 “컴퓨터가 아니라고 하니까”라는 식의 책임 회피 도구를 만든 셈임. 이미 하던 일을 정당화하기 위한 앱일 뿐임

  • IBM이 예전에 말했듯, 컴퓨터는 결정에 대한 책임을 질 수 없다고 했음. 경영진이 구조조정 같은 걸 정당화할 때 써먹던 논리의 연장선임
  • 가자에서 사용된 AI 표적 시스템도 비슷한 논리였음. 실제로는 작동하지 않지만, 실수를 AI 탓으로 돌리기 위한 장치였음
  • 영화 Brazil이 점점 현실처럼 느껴짐
  • “ICE 요원이 무시할 수 있다”는 조항 자체가 문제임. 특정 정치인에게만 예외를 두면, 그 외 모든 사람의 시민권 침해가 됨
  • 이런 시스템의 목적은 명확함. 시민을 박해하기 쉬운 감시 인프라를 구축하는 것임. 시민권 증거 따위는 방해 요소일 뿐임

• 수많은 영상에서 보듯, 이제는 권리를 주장하면 ICE가 더 폭력적으로 대응함
  요원들은 신원 공개를 거부하고, 법이 요구하는 자기 식별도 하지 않음. 사실상 국가가 후원하는 테러리스트 집단처럼 행동함

  • DHS 요원들은 연방 경찰이라, 주법을 어기지 않는 한 민사적 구제 수단이 없음. 42 USC §1983 같은 시민권 소송법이 적용되지 않아 사실상 “무법의 사무라이” 상태임
  • 연방 경찰은 원래부터 이런 식이었음. 부유한 지역엔 잘 안 가니까, 이제야 사람들이 문제를 체감하는 것뿐임
  • 근처 2미터 내에서 셀룰러·와이파이 신호를 차단할 방법이 없을까 하는 농담도 나옴

• 미국의 파편화된 신원 시스템 때문에 이런 앱은 큰 문제를 낳을 것 같음
  나처럼 복잡한 시민권 이력을 가진 사람은 데이터베이스에 고아 레코드가 남아 있을 가능성이 큼. 이런 기록이 잘못 매칭되면 여권을 보여줘도 무시될 수 있음

  • 나도 비슷한 경험이 있음. 공항에서 만료된 비자 스탬프 때문에 불법 체류자로 오해받고 30분 넘게 붙잡혔음. 결국 풀려났지만 사과도 없었음
  • 지인이 시민권은 있지만 귀화 서류가 없음. 이런 사람을 ICE가 제대로 인식할까? 혹시 구금되면 변호사 접근도 어렵고, 찾기도 힘듦. 그래서 이런 기술을 만든 회사 이름을 기억해두고, 이력서에 보이면 채용하지 않을 생각임
  • 이런 시스템은 복잡한 현실을 다루려는 게 아니라, 오히려 복잡성을 무시하고 추방을 정당화하려는 장치임
  • 미국은 원래 “시민으로 간주되며, 반증이 있을 때만 아니다”라는 원칙이 있었음. 이 앱은 그 원칙을 뒤집는 비미국적 발상임

• Mobile Fortify가 촬영한 사진을 15년간 보관한다는 점이 핵심임
  결국 시민 여부와 상관없이 전 국민 생체정보 데이터베이스를 구축하려는 의도임. 이 데이터가 다른 기관이나 기업에 팔릴 가능성도 큼
  얼굴인식은 특히 피부색이 어두운 사람에게 오류율이 높아, 잘못된 판정이 인생을 바꿀 수도 있음

  • 이런 데이터 수집은 Elon의 대규모 데이터 스크래핑을 떠올리게 함
  • 이런 건 단순히 불쾌한 수준이 아니라 국가적 테러 행위임
  • 의무 신분증 제도가 없는 나라에서 이민 단속을 하려다 보니, 정부가 아무 규제 없이 무리한 기술 실험을 하는 꼴임. 게다가 얼굴인식의 인종 편향은 ‘버그가 아니라 기능’일 수도 있음

• 나이가 들수록 ‘자경단 정의’ 영화가 싫어짐
  힘이 정의를 만든다는 메시지가 결국 지금의 무제한 폭력 정당화로 이어졌음. 법 집행 기관은 더 높은 수준의 책임성을 가져야 함. 시민은 지역 정치에 참여하고, 헤드라인이 아닌 실질적 정보로 투표해야 함

  • 드라마 24가 좋은 예임. 초반엔 규칙을 어기는 게 비극적이었지만, 나중엔 규칙 자체가 선의의 방해물로 묘사됨
  • “누가 감시자를 감시하는가?”라는 질문처럼, Rorschach는 사실 악역이었음

• 미국 수정헌법 4조는 불합리한 수색과 압수를 금지함. ICE가 뭐라 하든 헌법이 최종 법임
  얼굴인식은 그 정도 정확도를 가질 수 없고, 아마도 영원히 불가능함

  • 헌법이 있어도 집행되지 않으면 종이조각일 뿐임. 중간선거가 나라를 구할 수 있을지 반반임
  • 이론적 논의와 실제로 구금되어 변호사 접촉도 못 하는 현실은 전혀 다름
  • “신호가 초록불이라도, 눈앞의 차를 못 보면 사고 난다”는 비유처럼, 법이 있어도 현실은 다름
  • The Onion의 풍자 기사처럼, 헌법을 무시하려는 권력의 태도는 이미 농담이 아님

• 모든 사람의 얼굴 데이터를 저장한다는 건 광기 수준의 데이터 축적임
  요즘은 3D 프린터로 얼굴 위조도 가능해서, 이 데이터가 유출되면 정부뿐 아니라 해커나 부패한 경찰, 부자들도 악용할 수 있음.
  게다가 이 데이터로 딥페이크 영상을 만들면 사회적 혼란을 일으키기에 충분함

• 1930년대식 국가주의를 2020년대 기술로 구현하면 어떤 일이 벌어질까?

  • 사실 2020년대 기술이 정부보다 시민에게 더 힘을 준 측면도 있음. 정부가 적법 절차를 무시하기로 마음먹으면, 굳이 감시 기술이 필요 없게 됨
  • IBM이 과거에 했던 일처럼, 지금의 Meta나 Palantir가 그 역할을 이어받은 것 같음

• 이 뉴스가 며칠 전에는 HN에서 삭제되었다가 다시 올라옴

  • 주말 이용자층이라 이번엔 살아남은 듯함

• 법적으로는 공공장소에서 사진을 찍는 건 합법임.
  TFA가 말하는 건 사진을 찍은 뒤 그 데이터를 활용한다는 뜻임.
  체포되지 않았다면 얼굴을 가릴 자유도 있음. 다만 실제로는 이런 권리가 현장에서 자주 무시됨

  • 이미 근거 없는 체포가 현실에서 일어나고 있음. 일부 유권자들은 오히려 이런 사례를 “시험대”로 보고 있음