▲

뉴욕시 병원들, 논란의 AI 기업 Palantir과의 계약 종료…영국에서는 확장 지속

 (theguardian.com)
1P by GN⁺ 24시간전 | ★ favorite | 댓글 1개
  • 뉴욕시 공공병원 시스템이 Palantir Technologies와의 계약 갱신을 중단하고 내부 시스템으로 전환 결정
  • 계약에는 비식별 환자 데이터의 연구 외 사용 가능 조항이 포함되어 데이터 프라이버시 전문가들의 우려를 초래
  • Palantir은 고객 데이터 비소유 및 독립적 보호 체계를 강조하며 반박
  • 한편 Palantir은 영국 NHS와 3억3천만 파운드 규모 계약을 체결하며 확장을 이어가고, 데이터 재식별 위험과 권력 남용 가능성 논란이 제기됨
  • 뉴욕의 계약 종료는 활동가 연합 캠페인의 성과로 평가되며, 영국의 “No Palantir in our NHS” 운동에도 영향을 미치고 있음

뉴욕시 공공병원, Palantir 계약 종료 결정

  • 뉴욕시 공공의료기관 NYC Health + Hospitals가 Palantir Technologies와의 계약을 갱신하지 않기로 결정
    • 계약은 2023년 11월 체결되어 약 400만 달러가 지급되었으며, 보험 청구금 회수를 위한 단기 프로젝트로 설계됨
    • 병원은 계약 종료 후 내부 개발 시스템으로 전환하고 Palantir과의 데이터 공유 및 애플리케이션 사용을 중단할 예정
    • Palantir 기술은 수익 주기 최적화에만 사용되었으며, ICE(이민세관단속국) 과의 정보 공유는 없었다고 명시
  • 계약 문서에는 Palantir이 시 기관의 허가를 받아 환자 건강정보를 비식별화(de-identify) 하고 연구 외 목적으로 사용할 수 있다는 조항이 포함됨
    • 이 조항은 데이터 프라이버시 전문가들의 우려를 불러일으킴
    • 전문가들은 AI 기술로 인해 비식별 데이터의 재식별 위험이 커지고 있다고 지적
  • Palantir은 자사 소프트웨어가 고객 데이터를 소유하지 않으며, 모든 고객 환경이 독립적으로 보호된다고 주장
    • 고객이 보안 통제 및 감사를 직접 수행할 수 있다고 강조

영국에서의 Palantir 확장과 논란

  • Palantir은 영국 국민건강서비스(NHS) 와 3억3천만 파운드 규모의 계약을 체결하며 영향력을 확대 중
    • 영국 보건 당국은 Palantir 관련 논란이 전국적 데이터 시스템 도입을 지연시킬 수 있다고 우려
    • 2025년 여름 기준, 영국 보건 당국의 절반 미만이 Palantir 기술을 도입한 상태
  • 보건 정의 단체 Medact는 Palantir의 소프트웨어가 데이터 기반 권력 남용을 가능하게 할 수 있다고 경고
    • 미국식 ICE 단속 모델과 유사한 위험을 지적
    • Palantir은 이러한 사용은 불법이며 계약 위반이라고 반박
  • Palantir은 영국 국방부와도 계약을 맺고 있으며, 최근 금융감독청(FCA) 의 금융 범죄 조사 데이터 접근권을 확보
    • 일부 의원들은 정부에 계약 중단을 요구, 자유민주당은 조사 착수를 촉구
    • Keir Starmer 총리는 미국 기술 기업 의존이 과도하다는 지적을 부인하면서도 국내 기술 역량 강화 필요성을 언급
  • Medact는 NHS의 비식별 데이터 보호 수준이 불충분하다고 주장
    • NHS는 데이터가 연합 데이터 플랫폼(FDP) 을 통해 이동할 때 비식별화된다고 설명
    • 그러나 Medact는 이 데이터가 재식별 가능성이 높다고 경고
  • NHS 대변인은 FDP 공급업체가 공공계약 규정에 따라 임명되었으며, 모든 데이터 접근은 NHS의 통제 하에 이루어진다고 강조

데이터 프라이버시 논란

  • 법학자 Sharona Hoffman은 Palantir이 연구 외 목적으로 뉴욕 시민의 비식별 데이터를 접근할 경우 위험이 존재한다고 지적
    • Palantir의 정부 데이터 접근 범위와 AI 기반 데이터 결합 능력이 문제로 언급됨
    • “비식별화는 더 이상 완전한 보장이 아니며, AI로 인해 재식별이 쉬워지고 있다”고 경고
  • Ari Ezra Waldman 교수는 Palantir과 같은 기업이 취약 계층의 정보를 수집할 때 항상 우려가 필요하다고 강조
    • 특히 계약서에 명시된 “연구 외 목적 사용” 조항은 정부의 협상력 부족을 보여준다고 평가

시민단체와 활동가들의 대응

  • 뉴욕시의 계약 종료는 활동가들의 압박 캠페인 결과로 평가됨
    • 간호사 단체, 팔레스타인 연대 단체, 사회·기후 정의 그룹 등이 참여한 “Purge Palantir” 전국 캠페인이 주요 역할
    • 이들은 Palantir의 AI가 이민자 단속 및 군사 작전에 사용되는 시스템과 동일하다는 점을 문제 삼음
  • American Friends Service Committee는 정보공개청구를 통해 병원 계약서를 확보해 The Intercept와 The Guardian에 공유
    • 전국 간호사 노조와 BDS(보이콧·투자철회·제재) 운동도 캠페인에 참여
  • 영국의 “No Palantir in our NHS” 운동 단체들은 뉴욕의 결정을 자신들의 투쟁 동력으로 삼고 있음

    • Medact와Amnesty International UK는 NHS가 Palantir과의 계약을종료할 것을 촉구

      • Medact의 Rhiannon Mihranian Osborne은 “뉴욕의 사례처럼, 시민과 노동자가 의료기관을 책임 있게 만들 수 있다”며 NHS 계약 취소를 요구
▲
GN⁺ 24시간전  [-]
Hacker News 의견들

  • Palantir 같은 회사가 개인 의료 데이터에 접근하는 건 매우 위험한 일이라 생각함
    그래서 NYC가 이를 막는 조치를 취한 게 정말 다행스러움

  • 왜 이렇게 많은 기관들이 Palantir과 거래하는지 이해가 안 됨
    그들은 고객에게 독이 되는 존재라고 생각함

    • Palantir은 사실상 고급 IT 컨설팅 회사에 불과함
      “환자 기록 관리 시스템을 만들어 달라”고 하면, 갓 졸업한 엔지니어 팀을 보내 비싼 요금을 청구함
      정부나 군 계약은 로비와 영향력 덕분에 따내지만, 온라인에서 보이는 건 대부분 마케팅임
    • 내부에 원하는 걸 구현할 기술 인력이 없기 때문임
      예전엔 Deloitte, EY, KPMG, PwC 같은 곳을 쓰던 이유와 같음
      Palantir은 그들보다 한 단계 위의 인력과 납품 능력을 가진 정도임
    • 실제로 Palantir을 쓰는 고객이 누구인지 궁금함
      HN 커뮤니티 밖에서는 대부분의 사람들은 Palantir이 어디에 쓰이는지 관심조차 없음

  • Palantir이 이제 AI 회사라고? 예전엔 데이터 수집 혹은 스파이웨어 회사로 알고 있었음

    • “스파이웨어”라는 단어는 아무 데나 붙일 수 있는 게 아님
      Pegasus 같은 실제 스파이웨어 기업이 존재함
      Palantir, Snowflake, Databricks를 싸잡아 부르는 건 부정확함
    • Palantir을 JIRA나 Salesforce의 살상 버전으로 생각함
    • 모든 AI 회사는 결국 스파이웨어 회사라고 봄
    • 요즘은 다들 AI 회사라고 주장함
      Palantir도 예외가 아님

  • 영국 정부에게 부탁하고 싶음
    제발 Palantir을 내 데이터에서 멀리 떨어뜨려 달라는 것임

  • 이미 Palantir이 충분히 피를 빨아먹은 뱀파이어라면, 이제라도 내쫓는 게 늦었더라도 나음

  • 민간 기업이 공공 의료 시스템에 깊이 침투하는 건 위험한 일임

    • 하지만 의료 장비, 예를 들어 CT나 MRI 같은 걸 만드는 건 정부가 아님
      결국 민간 기업이 필수적임
    • 전 세계 모든 의료 시스템에는 민간 기업이 어느 정도 얽혀 있음
      공공 시스템이라도 예외는 아님

  • NYC 교육청도 최근 AI 가이드라인을 발표했음
    학생의 개인정보(PII) 로 학습 금지, 성적 산출 금지 등임
    하지만 거대한 시스템에 비하면 작은 조치에 불과함

  • Palantir은 지금 세상에서 가장 악한 기업이라고 생각함

  • Palantir은 언제든 데이터 백도어를 설치할 수 있음
    기업들이 공공연히 개인정보를 침해하는데도 눈치채지 못한다면, 그건 주의를 기울이지 않는 것임
    게다가 사법 시스템에 대한 신뢰도 없음

  • J.D. Vance와 Peter Thiel이 이끄는 Palantir이 Elon Musk가 만든 궤도 무기 시스템 Golden Dome의 소프트웨어 계약을 따냈다는 소문이 있음
    전 지구 어디든 타격 가능한 무기를 감시 기업이 통제한다니 끔찍함

    • 하지만 관련된 인물들이 절반이라도 유능했다면 걱정이겠지만,
      이건 단지 세금 사기극에 불과하다고 생각함
답변달기