▲

팔란티어가 ICE의 급습 지역 선정을 위해 사용하는 앱 ‘ELITE’

 (werd.io)
1P by GN⁺ 9일전 | ★ favorite | 댓글 1개
  • ‘ELITE’는 미국 이민세관단속국(ICE) 이 추방 대상자를 찾기 위해 사용하는 팔란티어(Palantir) 의 내부 도구로, 지도 기반 인터페이스를 통해 특정 지역의 표적 밀집도를 시각화함
  • 이 앱은 Google Maps와 유사한 형태로, 이민자 밀집도를 포함한 데이터를 활용해 ‘표적이 많은 지역’을 표시함
  • 사용자가 특정 인물을 선택하면 이름, 사진, 외국인등록번호(Alien Number), 생년월일, 주소가 포함된 개인 프로필(dossier) 이 표시됨
  • 내부 자료에 따르면, 이 시스템은 표적의 현재 주소 신뢰도(confidence score) 까지 제공하며, 대규모 인종 프로파일링에 활용되고 있음
  • 글은 이러한 기술이 법적 절차 없이 사람을 추방하는 행정력 강화에 기여하고 있으며, 개발자들의 윤리적 책임을 묻는 문제로 제기됨

ICE와 팔란티어의 기술 협력

  • 내부 ICE 문서와 관계자 증언에 따르면, 팔란티어가 ICE를 위해 구축한 기술 인프라와 현장 단속 활동 간의 직접적 연계가 확인됨
  • 404 Media의 보도에 따르면, ELITE 시스템은 ICE가 대규모 추방 작전 지역을 식별하는 데 사용되고 있음
  • 이 도구는 지도에 잠재적 추방 대상자들을 표시하고, 각 인물의 주소 신뢰도 점수(confidence score) 를 제공함

ELITE의 기능과 인터페이스

  • ELITE는 Google Maps와 유사한 지도 인터페이스를 기반으로 하며, 이민자 밀집도를 포함한 데이터를 통해 ‘표적이 풍부한 지역’을 시각화함
  • 사용자가 지도에서 특정 인물을 클릭하면, 시스템은 이름, 사진, 외국인등록번호, 생년월일, 전체 주소가 포함된 개인 프로필(dossier) 을 표시함
  • 이러한 데이터는 ICE가 대상자의 위치를 추적하고 체포 작전을 계획하는 데 활용됨

윤리적 문제 제기

  • 글은 이 시스템을 “대규모 인종 프로파일링” 으로 규정하며, 법적 절차 없이 사람을 추방하는 행위에 기술이 사용되고 있음을 비판함
  • 작성자는 팔란티어 직원들이 이러한 제품을 개발하며 느낄 수 있는 도덕적 갈등을 묘사함
    • “매일 출근해, 사람들을 추방하는 소프트웨어를 만든다”는 표현을 통해 개발자의 일상과 윤리의 괴리를 강조
  • 팔란티어 직원들이 급여, 스톡옵션, 복지 등 혜택을 누리면서도, 자신이 만드는 기술이 무장 기관의 폭력 행위에 기여하고 있음을 지적함

기술과 폭력의 연결

  • 글은 ICE가 무장 세력으로서 민간인을 납치하고 총격을 가하는 행위를 언급하며, ELITE가 이러한 활동을 “아름답고 현대적인 지도 인터페이스”로 지원하고 있다고 서술
  • ICE가 한 여성을 얼굴에 총격한 사건 등 폭력 사례를 언급하며, 기술이 폭력적 행정 집행을 효율화하는 도구로 사용되고 있음을 비판

기술자와 사회적 책임

  • 글은 팔란티어 직원들이 “이 팀과 일하는 게 즐겁다” 고 느끼는 동시에, “다른 직장을 찾아야 한다” 는 내적 갈등을 겪을 수 있음을 묘사
  • 기술자가 자신의 노동이 사회적 폭력에 기여할 때, 단순히 생계나 커리어를 이유로 이를 정당화할 수 있는지 질문함
  • 결론적으로, ELITE는 ICE의 폭력적 단속을 기술적으로 뒷받침하는 시스템이며, 기술 개발자의 윤리적 책임 문제를 드러내는 사례로 제시됨
▲
GN⁺ 9일전  [-]
Hacker News 의견들

  • 나는 Palantir에서 일한 적은 없지만, 시끄러운 리더십의 악역 코스프레를 걷어내고 보면 이 회사는 전형적인 엔터프라이즈 벤더 느낌을 줌
    제품은 평범한데 기관 구매자에게 과대 포장되어 팔리고, 결국 현장 직원들에게 강제로 쓰이게 됨
    문제는 이런 도구를 쓰게 만드는 정책 결정과, 통제되어야 할 데이터를 광범위하게 접근 가능하게 하는 구조임
    Palantir에게 ‘나쁜 놈’ 이미지를 주기보다, 왜 이런 도구를 원하게 되었는지 정책적 배경에 초점을 맞춰야 함

    • 나도 Palantir를 비슷하게 봄. 결국 컨설팅 회사로, 지도·그래프 DB·“AI” 포장을 한 서비스임
      비싼 ‘forward deployed engineer’를 팔아 고객 맞춤형으로 커스터마이징함
      윤리적 회사라고 보긴 어렵지만, 그들이 개인 정보를 직접 수집하는 건 아님. 데이터는 고객이 제공함
      변화는 그 고객 쪽에서 일어나야 함
    • ‘가짜 악’이 존재한다는 사실이 충격적임. 1600년대의 ‘가짜 신앙심’처럼, 지금은 가짜 악함이 유행함
      기업이 실제보다 더 악한 척을 해야 하는 문화라면, 그건 사회의 도덕적 파산임
    • 나는 동의하지 않음. 문제는 Palantir 그리고 그들의 고객 둘 다임
      도구를 만들지 않을 선택도, 사용하지 않을 선택도 가능함
    • 정부가 Palantir 서비스를 이용해 데이터를 연결하고 대규모 감시를 가능하게 만드는 게 진짜 문제임
    • Karp는 이런 걸 “정부가 더 잘 일하도록 돕는 것”이라 정당화함
      하지만 결국 정부를 통제하는 건 유권자의 몫임

  • 요즘 사람들은 복합적 사고를 잃은 것 같음
    ICE가 명확하고 윤리적인 임무를 가질 수 있다고 믿으면서도, 그 임무 수행 방식은 잘못되었다고 생각할 수 있음
    불법 이민자를 ‘본질적으로 불법’이라 낙인찍지 않으면서도, 합법적 절차를 지키는 게 중요하다고 믿을 수도 있음
    세상은 흑백논리가 아닌데, 왜 이렇게 양극단으로만 생각하게 되었는지 모르겠음. 아마 소셜미디어의 영향일지도 모름

    • 하지만 권력과 무기를 가진 쪽은 ‘하나의 올바른 믿음’, 즉 ‘미국식 가치’만 강요하려 함
      이건 대칭적인 이념 싸움이 아님. 다가오는 중간선거의 파란 물결이 마지막 희망일 수도 있음
      그게 무산되면, 러시아 문학의 절망이 더 깊이 와닿을 것 같음
    • “가능하다”는 말이 “옳다”는 뜻은 아님
      ICE의 법적 임무는 명확하지 않고, 실제로는 비윤리적이고 불법적인 방식으로 수행되고 있음
      단순히 ‘가능한 믿음’이라고 해서 정당화되는 건 아님
    • “이민 대기열을 건너뛰는 건 부도덕하다”는 말은 현실을 모르는 주장임
      가난한 사람들에게는 대기열 자체가 존재하지 않음. 그들은 합법적 비자조차 신청할 수 없음
    • 핵심은 사람들이 복합적으로 생각하지 못하는 게 아니라, 그 복잡함이 보상받지 못한다는 점임
    • 그만 좀 관심 있는 척(trolling) 하라는 반응도 있음

  • 다른 회사의 리더나 채용 담당자에게 말하고 싶음
    Palantir에서 도덕적 이유로 퇴사하려는 엔지니어들을 공개적으로 인터뷰하겠다고 선언해줬으면 함
    이직 장벽을 낮추고, 그런 사람들에게 피난처를 제공하는 게 업계의 새로운 규범이 되었으면 함

    • 하지만 반대로 생각함. 윤리적으로 의심스러운 시스템을 만든 사람을 내 회사에 들이고 싶지 않음
    • Palantir의 평판은 이미 10년 전부터 나빴음
      그걸 이제야 깨달은 사람이라면 원칙이 부족한 것 같음
    • 사회에 긍정적인 프로젝트를 하고 좋은 평판을 쌓는 게 더 낫다고 봄
      이상하게도 전 Palantir 직원의 이력서를 본 적이 없음. 아마 자동 필터링되거나, 그들이 이런 회사에 관심이 없을지도 모름
    • 그들이 정말 잘못한 걸까? 범죄자를 추적하는 데 재능을 쓰는 게 오히려 도덕적 의무 아닐까 하는 생각도 있음

  • Palantir는 설립 이후 미국 정부로부터 약 100억 달러의 세금을 받아감

    • 지금의 정부는 사실상 기업 국가처럼 움직임. 모두가 얼마나 많이 빼돌릴 수 있을지만 계산함
    • (이 댓글은 노래 가사 형태로 되어 있었으나, 저작권 문제로 생략함)

  • 이 스레드가 삭제되지 않게 하려면 더 깊이 있는 논의가 필요함
    Palantir의 어떤 제품 라인이 사용되는지, FOIA(정보공개법)가 어떻게 적용되는지, 어떤 데이터를 제공하는지 구체적으로 다뤄야 함

  • Palantir의 이미지 관리팀이 이번 스레드에는 훨씬 빨리 개입한 것 같음

    • 아마 온라인 봇 부대를 운영하며 여론을 조작할지도 모름
      심지어 그걸 고객에게 서비스로 팔 가능성도 있음
      이런 문제를 막으려면 사이트들이 익명 계정의 실명 검증을 강화해야 함

  • 내가 19살이었을 때, Palantir 직원이 TDD 강연을 하러 왔는데 학생들이 보이콧을 했음
    그땐 너무 극단적이라고 생각했지만, 지금은 오히려 그게 옳았다고 느낌
    Palantir 같은 회사에선 절대 일하지 않을 것임. 과거로 돌아간다면 나도 보이콧에 참여했을 것임
    “중국도 이런 걸 하니까 우리도 해야 한다”는 논리는 윤리적으로 역겨움
    타락한 세상에 대한 해법은 더 타락하는 게 아님. 그런 논리는 책임을 지우고 인간성을 없애며, 갈등을 키움
    우리는 이런 도덕적 부패에 맞서 싸워야 함

    • 이런 비판을 하면 봇들의 다운보트를 받는 게 현실임

  • 이건 단순히 “불법 이민자” 문제가 아님
    이미 대규모 감시 인프라가 구축되고 있음. 지금은 특정 집단을 겨냥하지만, 곧 모두가 대상이 될 것임
    Flock, Ring 같은 감시 시스템과 AI, 데이터 통합이 그 기반임
    이런 기술을 만든 사람들은 도덕적 책임을 져야 하며, 추적 가능한 플랫폼이 필요함

    • 정부가 수십 년간 기록이 없던 사람도 찾아낼 수 있다면, 납세자 추적은 훨씬 더 쉬울 것임
    • 하지만 “도덕”을 기준으로 삼는다면, FAANG 직원들도 모두 비판받아야 할 것임

  • 원문 기사: 404 Media - ELITE: the Palantir app ICE uses to find neighborhoods to raid
    아카이브 링크: archive.ph/wa32f

답변달기