▲

기술 기업들은 감시에 협박당해선 안 된다

 (eff.org)
2P by GN⁺ 1일전 | ★ favorite | 댓글 1개
  • 미국 국방장관이 Anthropic에 자사 인공지능 기술을 군사적 제한 없이 제공하라는 최후통첩을 전달함
  • 국방부는 Anthropic이 이를 거부할 경우 ‘공급망 위험(supply chain risk)’ 기업으로 지정하겠다고 위협함
  • Anthropic은 자율무기 시스템과 감시 목적 사용을 금지한다는 원칙을 공개적으로 밝힌 바 있음
  • 2026년 1월, Anthropic은 Palantir와의 협력 과정에서 자사 AI가 베네수엘라 공격에 사용된 정황을 의심하며 원칙을 재확인함
  • EFF는 정부의 압력에도 불구하고 기술 기업들이 감시 도구로 전락하지 말아야 함을 강조함

국방부의 압력과 Anthropic의 입장

  • 미국 국방장관이 Anthropic에 군사적 제한 없는 기술 제공을 요구하며 압박을 가함
    • Anthropic이 이를 거부하면 ‘공급망 위험’으로 지정되어 국방부와의 거래가 차단될 수 있음
    • 이 지정은 일반적으로 중국 등 연방기관의 감시 대상 국가와 거래하는 기업에 적용되는 조치로 설명됨
  • Anthropic은 자율무기 시스템과 감시 목적 사용을 지원하지 않겠다는 입장을 유지
    • 이는 CEO Dario Amodei가 밝힌 “넘지 말아야 할 두 개의 붉은 선” 으로, 남용 방지를 위한 엄격한 검토와 안전장치가 필요하다고 명시함
    • Anthropic의 AI 안전 핵심 원칙과 Claude의 헌장(Constitution) 은 자사 웹사이트에 공개되어 있음

논란의 배경

  • 2025년 Anthropic은 기밀 정보 취급이 허가된 첫 AI 기업으로 알려짐
  • 2026년 1월, Palantir와의 협력 중 자사 AI가 베네수엘라 공격에 사용된 정황을 인지하며 논란이 시작됨
    • 이후 Amodei는 감시와 자율무기 사용 금지를 재확인하는 서신을 발표함
  • 현재 미국 정부는 계약 해지 위협을 통해 Anthropic의 정책 변경을 요구 중임

EFF의 주장

  • EFF는 정부의 압력으로 기업이 인권·시민자유 원칙을 포기해서는 안 된다고 강조
    • 많은 기술 기업들이 이윤 등 다양한 이유로 원칙을 지키지 못하지만, 정부의 강요는 그 이유가 되어선 안 된다고 명시함
  • 기업 고객, 대중, 엔지니어들은 Anthropic이 원칙을 지키길 기대하고 있음
    • 기술 기업 전반이 감시 체계의 도구로 전락하지 않는 것이 중요하다고 경고함

관련 주제

  • 인공지능(AI) 및 기계학습(Machine Learning) 관련 이슈로 분류됨
  • EFF는 이 사안을 AI 윤리와 정부 감시의 경계 문제로 제시함
▲
GN⁺ 1일전  [-]
Hacker News 의견들
  • 지금은 여우들이 닭장 안에 다 들어가 있는 상황 같음
    결국 사람들이 일어나서 변화를 강제하지 않는 한, 상황이 나아지기 어렵다고 봄
    그래도 Anthropic은 감시나 전쟁용 살상 기술에는 AI를 쓰지 않겠다는 등 안전성 논의를 하는 유일한 대형 기업처럼 보임
    하지만 현 행정부가 기업들을 반민주적 방향으로 몰아가고 있어서, Anthropic이 끝까지 버틸지는 확신이 없음. 이번 주 금요일에 어떤 일이 벌어질지 지켜볼 생각임
    • 닭이 남아 있긴 한 건지 모르겠음. 지금은 전부 여우뿐인 듯함
      이 행정부는 테크 억만장자들의 지원으로 당선된 것이고, 그들이 데이터 접근권과 공공 자금 확보를 위해 이런 상황을 의도적으로 만든 것일 수도 있다고 생각함
    • “사람들이 일어나야 한다”고 했지만, 이미 일어났음
      그 결과가 바로 감시 강화임. 피해자 입장에서 보면 감시를 줄이자는 말은 현실감이 없을 수도 있음
  • 많은 테크 기업들이 사람들을 추적하려 함
    결국 이들은 감시 기업이며, 그게 문제의 일부임
    • 이건 과소평가된 지적임. 기업들은 감시를 경쟁 우위로 삼았고, 시스템은 그걸 강화하는 방향으로 보상함
    • 기업의 탐욕과 정부의 권력 남용은 별개의 문제임
      정부는 국민을 위해 일해야 하며, 감시를 확대할 게 아니라 이를 법으로 제한해야 함. 헌법이 바로 그런 지침서임
  • 이라크 전쟁 시절, 정부의 사생활 침해가 심했을 때는 테크 기업들이 국민 편에 서서 4차 수정헌법을 지키려 했음
    하지만 지금은 Anthropic을 제외하면 모두 변했음. Apple도 이제는 정부 요구에 맞서지 않을 것 같음
    25년간 Apple을 써왔지만 이제는 신뢰가 완전히 무너졌음. Anthropic만은 원칙과 용기를 지키길 바람
    • 과거 플랫폼들은 “테러 방지” 명목으로 정부에 데이터를 넘기고, 사용자 감시와 검열을 정당화했음
      그런데 Anthropic도 PAC 자금 지원을 통해 KOSA 법안을 밀고 있음
      이 법안이 통과되면 익명 표현의 자유가 사라지고, 모든 콘텐츠가 얼굴·신분 인증을 거쳐야 함
    • Anthropic도 결국 LLM 접근을 통제하려는 쪽임
      이 글을 보면, 안전과 지식재산을 이유로 중앙집중화를 추진함
      나는 누구나 자기 PC에서 오픈소스 AGI를 직접 돌릴 수 있는 세상이 되어야 한다고 생각함
    • Anthropic에 대한 평가는 금요일 이후로 미루겠음
      정부와의 “건설적 대화”라는 표현만 반복하는 건 투명성 부족으로 보임
    • Apple이 정부의 암호 해제 요구를 거부했을 때, 내부에서도 반발이 컸다고 들었음
      San Bernardino 사건 당시의 일임
    • 참고로 PRISM 프로그램은 2007년에 시작됐음. 이라크 전쟁 시기와 겹침
  • 테크 기업의 존재 목적은 단순히 편의 제공이 아님
    텔레메트리 수집으로 수익을 창출하고, 멀티테넌트 환경의 문제를 해결한다는 명목으로 데이터를 모음
    결국 사용자는 무료 혜택으로 유입되고 벤더 락인에 갇히는 피해자가 됨
  • “정부에 괴롭힘당했다”는 말은 과장임
    지난 20년간 봐온 바로는 대부분 계약된 거래였고, 결국 비즈니스였음
  • SecDev H가 왜 Anthropic을 감시·드론 기술에 통합하려 하는지 이해가 안 됨
    “명령을 따르지 않으면 네 AI를 내 시스템에 연결하라”는 건 은행 강도가 총을 은행원에게 넘기는 격임
    • 맞음. Hegseth는 이런 일을 맡기엔 전문성 부족이 너무 명확함
  • 테크 기업들이 감시에 협박당했다고? 전혀 아님
    기업 가치의 상당 부분이 이미 정부 감시 협력 능력에 기반함. 이들은 피해자가 아니라 공범임
    • “Torment Nexus” 밈처럼, 기업이 위험한 기술을 만들고 정부가 “그걸 왜 우리와 공유하지 않느냐”고 묻는 상황임
  • Anthropic이 이번엔 버텨주길 바라지만, 장기적으로는 의미가 없을 수도 있음
    AI의 지능 성장 속도가 너무 빨라서, 언젠가 인간이 통제권을 잃게 될 것임
    지금의 안전 연구나 책임 있는 확장 정책은 결국 시간을 벌 뿐, 방향 자체를 바꾸진 못함. 그게 가장 두려운 부분임
  • 테크 기업과 군사·감시 산업이 정말 분리되어 있는지 의문임
    Steve Blank의 강연을 보면, 80년대 이전엔 대부분의 실리콘밸리 스타트업이 군 자금으로 시작했음
    지금도 인터넷, 검색, AI 같은 전략 기술은 통제 대상임. 우리는 Facebook이나 Google엔 데이터를 주지만, 정부엔 주지 않음. 하지만 결국 같은 정보임
    • 과거엔 분리가 좀 더 뚜렷했음
      당시 개발자 문화는 해커 정신, 사이버펑크식 프라이버시, 오픈소스 운동 중심이었고, 군사 문화와 충돌했음
    • 관련해서 『Surveillance Valley』라는 책도 테크 산업의 군사적 뿌리를 잘 다룸
  • 테크 기업은 감시를 할 권한이 없어야 함
답변달기