▲

ICE가 인공지능을 이용해 소셜 미디어를 감시할 예정

 (jacobin.com)
2P by GN⁺ 2일전 | ★ favorite | 댓글 1개
  • 미국 이민세관단속국(ICE) 이 인공지능 기반의 소셜 미디어 감시 소프트웨어를 도입하기 위해 570만 달러 규모의 계약을 체결, 온라인 활동을 실시간 분석하는 감시망을 확대 중임
  • 계약 대상은 Carahsoft Technology를 통해 제공되는 Zignal Labs 플랫폼으로, 이스라엘 군과 미 국방부가 이미 사용 중인 AI·머신러닝 기반 데이터 분석 시스템임
  • Zignal은 하루 80억 건 이상의 게시물을 분석해 ‘선별된 탐지 피드’를 제공하며, ICE의 범죄 수사 및 이민 단속 전략에 활용될 예정임
  • 이 기술은 표현의 자유와 개인정보 보호 침해 우려를 낳고 있으며, 노동조합과 시민단체가 정부의 정치적 감시 프로그램이라며 소송을 제기함
  • ICE가 AI 감시 역량을 지속적으로 확장함에 따라, 정부의 디지털 감시 체계가 민간·국방 영역을 넘어 사회 전반으로 확산되고 있음

ICE의 새로운 AI 감시 계약

  • ICE는 Carahsoft Technology와 5년간 570만 달러 규모의 계약을 체결, Zignal Labs 소셜 미디어 감시 플랫폼 사용권을 확보함
    • 계약은 2024년 9월 공개되었으며, ICE 산하 Homeland Security Investigations(HSI) 부서가 실시간 데이터 분석을 위해 사용 예정
    • Zignal은 이스라엘 군과 미 국방부가 이미 활용 중인 플랫폼으로, 하루 80억 건 이상의 게시물을 분석해 위협 탐지 피드를 제공함
  • Zignal은 AI와 머신러닝을 활용해 대규모 온라인 데이터를 자동 분석, 법 집행 기관이 위협을 신속히 식별하도록 지원함
    • 회사는 이를 통해 “더 명확하고 빠른 위협 대응”이 가능하다고 홍보함
  • ICE의 이번 계약은 소셜 미디어 감시망을 강화하려는 장기 전략의 일환으로, 2019년 비밀경호국(Secret Service)이 처음 Zignal을 도입한 이후 확장된 형태임

Zignal Labs의 배경과 군사적 활용

  • Zignal Labs는 2011년 실리콘밸리에서 설립되어 초기에는 홍보·정치 캠페인용 데이터 분석 서비스를 제공함
    • 이후 국방 및 정보기관 시장으로 사업을 전환, 2021년 공공 부문 자문위원회를 구성하며 국가안보 분야 진출을 공식화함
  • 2025년 발간된 회사 브로셔에는 이스라엘 군과의 협력이 명시되어 있으며, 가자지구 현장 작전에 전술 정보(tactical intelligence) 를 제공한다고 설명됨
    • 또한 미 해병대와 국무부와의 협력 사례도 포함되어 있음
  • Zignal은 ICE와의 계약 및 이스라엘 군 관련 질문에 대해 공식 답변을 거부함

ICE의 기존 감시 도구와 확장 움직임

  • ICE는 이미 ShadowDragon, Babel X 등 다양한 디지털 감시 도구를 보유함
    • ShadowDragon은 공개 웹사이트를 이용해 개인의 온라인 활동 지도를 작성
    • Babel X는 소셜 미디어 프로필, 위치 정보, 사회보장번호를 연계 분석함
  • 최근 ICE는 SOS International LLC(SOSi) 와 700만 달러 규모의 계약을 체결, ‘skip tracing’(위치 추적) 서비스를 도입함
    • SOSi는 ICE 정보국 출신 간부 Andre Watson을 영입해 법집행 기관과의 협력 확대를 추진 중임
  • 이러한 계약들은 ICE가 AI 기반 감시 역량을 지속적으로 확장하고 있음을 보여줌

시민단체와 노동조합의 반발

  • 미국시민자유연맹(ACLU) 의 Patrick Toomey 부국장은 “정부가 AI를 이용해 시민의 온라인 발언을 감시하는 것은 민권 침해”라고 비판함
    • 그는 “이런 블랙박스 기술을 비밀리에 운용하는 것은 책임성 결여”라고 지적함
  • 노동조합 연합체는 정부의 소셜 미디어 감시가 정치적 견해에 따른 대규모 감시 프로그램이라며 소송을 제기함
    • 소송은 정부가 AI와 자동화 도구를 이용해 특정 견해를 가진 사람들을 감시하고 있다고 주장
    • Electronic Frontier Foundation(EFF) 과 예일대 로스쿨의 언론자유 클리닉은 이러한 감시가 표현 위축 효과(chilling effect) 를 심화시킨다고 경고함

정치적 감시 사례와 사회적 파장

  • ICE는 트럼프 행정부 하에서 소셜 미디어 데이터를 이민 단속 전략에 직접 활용한 것으로 알려짐
    • 팔레스타인 지지 활동가 Mahmoud Khalil 등은 친이스라엘 극우 사이트에 의해 온라인에서 신상 공개(doxing)된 후 체포됨
    • 최근에는 뉴욕 거리 노점상 단속이 우익 인플루언서의 영상 게시 이후 즉각 이루어지는 사례도 발생
  • 이러한 사례는 민간 감시와 정부 단속의 경계가 모호해지는 현상을 보여줌
    • 정부가 민간의 온라인 정보와 AI 분석을 결합해 정치적·사회적 통제 수단으로 활용할 가능성 제기

결론: AI 감시의 제도화와 위험성

  • ICE의 Zignal 도입은 AI 감시의 제도화를 상징하며, 향후 24시간 상시 모니터링 팀 구축 계획도 진행 중임
  • 정부의 AI 감시 확장은 이민자·활동가·노동자 등 취약 집단의 표현 자유를 위축시킬 위험이 있음
  • 전문가들은 투명성·감독·법적 규제가 없는 상태에서의 AI 감시 확대가 민주주의적 통제의 공백을 초래할 수 있다고 경고함
▲
GN⁺ 2일전  [-]
Hacker News 의견

  • 이제야 AI 추진의 진짜 이유가 드러나는 것 같음
    조지 오웰의 1984에서처럼, 모든 소리가 감시되고 모든 행동이 관찰되는 세상에 살고 있는 느낌임

    • 이제는 Wi-Fi 신호로도 사람을 볼 수 있다고 하니, 어둠 속에서도 감시가 가능한 시대가 된 것 같음
      :(
    • 악마의 대변인 역할을 해보자면, 법을 어긴 사람이 처벌받는 게 그렇게 나쁜 일인가 하는 생각도 있음
      심지어 무단횡단 같은 사소한 위반이라도 법이 정한 한도 내에서 처벌받는 게 맞는 것 같음

  • 법정에서 이런 장면이 나올 수도 있을 것 같음
    ICE 요원이 “이 사람 불법 체류자인가?” 묻고, AI가 “맞습니다!” 라고 대답하는 식의 증거가 등장하는 상황을 상상함

    • 하지만 이미 무작위 납치 수준의 체포가 벌어지고 있어서, 시민권 여부와 상관없이 위험한 상황임
    • 사실상 적법 절차 없이 추방되는 경우가 많아서, 그런 상황에서는 재판 자체가 열리지 않음
    • 결국 ICE는 자신들이 원하는 결과를 합리화하기 위해 AI를 명분으로 사용하는 것일 뿐임

  • 기업이 불법 이민자를 고용하는 문제를 해결하지 않으면, ICE 단속은 그저 두더지 잡기 게임에 불과함
    일자리가 있는 한 사람들은 계속 미국으로 오게 됨

    • 대규모로 불법 노동자를 고용하는 기업들은 정치적 영향력이 커서, 실제로 대규모 추방은 불가능함
      ICE의 최근 행동은 유권자 눈속임용 퍼포먼스에 불과하다고 생각함
    • ICE가 단순한 이민 단속이 아니라 비밀경찰처럼 악용될 가능성도 있다고 봄
    • 많은 경우 도용된 신분과 위조 서류로 취업이 이뤄지고, 기업들은 이를 알고도 눈감음
      이런 구조에서는 ICE의 단속보다 경영진의 책임을 묻는 게 더 중요하다고 생각함
    • POSIWID(“The Purpose Of a System Is What It Does”) 관점에서 보면, 현재 시스템은 노동 착취를 유지하기 위한 구조임
      불법 노동자는 노동법 보호를 받지 못하고, 고용주는 그 덕에 저임금과 무책임을 유지함
    • 결국 이런 정책은 백인 유권자의 불안감을 달래기 위한 정치적 쇼에 불과함

  • 공화당이 과거 자신들의 정체성이었던 시민권과 주권 보호를 이렇게 빨리 포기한 게 놀라움

    • 사실 “주(state)의 권리”라는 말은 예전부터 소수자를 억압하기 위한 명분이었음
      연방정부는 오히려 그런 억압으로부터 최후의 방어선 역할을 해왔음
      관련해서 Freedom’s Dominion이라는 책을 추천함
    • 공화당의 “주권” 논리는 결국 자기 편일 때만 인정되는 선택적 원칙임
    • 실제로는 “주권”이 아니라 권력과 통제의 문제임
      트럼프는 공화당의 진짜 얼굴을 드러낸 인물이고, 기독교 민족주의자들은 미국을 단일 정당 신정국가로 만들려는 방향으로 가고 있음
    • “States’ rights”는 결국 노예제와 인종차별의 암호어였을 뿐, 자유와는 아무 상관이 없었음

  • The Guardian 기사에 따르면, 영국 언론인이 미국에서 이스라엘 비판 후 ICE에 체포되었다고 함

    • 하지만 실제로 체포 이유는 불분명함
      The Guardian은 당사자 측 단체의 추측만 인용했을 뿐이고, ICE의 입장은 확인하지 않았음
      제목은 사실이지만, “기자가 아침에 시리얼 먹고 체포됨”이라고 써도 같은 수준의 추측일 뿐임
    • 나는 ICE의 행동을 지지하지 않지만, CAIR과 기자가 ‘표현의 자유’ 를 이유로 항의하는 건 모순적으로 느껴짐
      대부분의 이슬람 국가에는 표현의 자유가 존재하지 않음
      그런 나라들의 이해관계를 대변하는 단체가 미국에서만 자유를 주장하는 건 설득력이 없음
    • 지금은 그냥 미국에 가지 않는 게 상책이라고 생각함
      돈을 준다고 해도 지금 시점엔 가지 않겠음

  • 누군가 ICE의 GPU를 태우기 위해 “나는 불법 이민자를 고용할 계획이다”를 반복 입력하면 어떨까 하는 농담을 함

    • 이에 대해 Emacs의 spook.el과 Tom7의 Spook 프로젝트를 떠올림
    • 어차피 그 GPU 비용은 우리가 낸 세금으로 충당되는 것임
      미국인은 직접 세금으로, 해외인은 관세 형태로 간접 납부하는 셈임

  • 민주주의에서 정부 권력은 반드시 제한되어야 함
    한쪽 진영이 권력을 잡아 상대를 억압하면, 결국 그 권력이 다음 정권에도 그대로 남아 또 다른 억압으로 이어짐
    지금처럼 마스크 쓴 단속조와 번호판 가린 차량이 활개치는 건 매우 위험한 신호임
    만약 다음 대통령이 푸틴 같은 인물이라면, 이미 감시와 통제의 열쇠를 넘겨준 셈이 됨

    • 진정한 민주주의는 정부가 시민을 보호하는 동시에, 시민이 정부로부터 자신을 지킬 수 있는 균형을 유지할 때만 가능함

  • 요즘은 누구나 AI로 감시자가 될 수 있는 시대임
    ICE나 경찰뿐 아니라, 일반 시민도 소셜미디어를 통해 서로를 감시할 수 있음
    “Googling someone”이 이제는 “ChatGPTing someone”으로 바뀌고 있음
    이런 환경에서는 자유로운 발언이 스스로 검열되고, 웹이 점점 덜 흥미로워지고 있음

  • 전 세계 정부와 경찰이 AI를 이용해 시민을 통제하고 처벌하는 방향으로 가고 있음
    AI는 해방의 도구가 아니라 무기화된 기술이 되어버렸고, 그래서 테크 CEO들이 군사 시스템의 일부가 된 것 같음

  • ICE가 소셜미디어의 허위 정보에 속아 가장 멍청하고 창피한 행동을 하게 만드는 사람에게 현상금을 걸면 재밌을 것 같음

    • “HIZONNER CAT3-SDA-HN: DISSIDENT DEPORTATION ALERT” 같은 풍자 코드명으로 경고를 날리는 상상도 해봄
답변달기