▲

미국 국방부 장관, Anthropic을 국가 안보 공급망 위험 기업으로 지정하도록 지시

 (twitter.com/secwar)
4P by GN⁺ 4시간전 | ★ favorite | 댓글 2개
  • Pete Hegseth가 국방부에 Anthropic을 국가 안보 공급망 위험 기업으로 지정하도록 지시하고, 미 군과 거래하는 모든 업체의 Anthropic 사용을 금지
  • 모든 합법적 국방 목적에 대한 무제한 모델 접근을 요구했으나, Anthropic이 이에 따르지 않았다고 비판
  • Trump 대통령은 Truth Social을 통해 모든 연방 기관의 Anthropic 기술 사용 즉시 중단을 명령했으며, 6개월간 전환 기간 부여
  • 수개월간 진행된 협상에서 Anthropic은 대규모 국내 감시와 인간 개입 없는 자율 무기 개발에 모델이 사용되는 것에 대한 안전장치를 요구해 왔으나 국방부가 이를 거부함
  • Claude는 현재 미 군 기밀 시스템에 사용되는 유일한 AI 모델로, Maduro 체포 작전에도 활용된 바 있어 전환에 상당한 어려움이 예상됨
  • 이번 조치는 미국 기업에 대해 공급망 위험 지정이 적용된 최초 사례로, AI 기업과 국가 안보 간 관계에 중대한 선례를 남기게 됨

Pete Hegseth 국방부 장관의 공식 성명

  • Anthropic과 CEO Dario Amodei가 "효과적 이타주의(effective altruism)"라는 수사 뒤에 숨어 미군에 대한 거부권을 행사하려 했다고 비판
  • 국방부는 Anthropic 모델에 대한 모든 합법적 목적의 완전하고 무제한적인 접근권을 요구해 왔으며, 이 입장은 변하지 않을 것임을 강조
  • Anthropic의 이용약관이 미군 전투원의 안전, 전투 준비태세, 생명보다 우선할 수 없다고 선언
  • 즉시 효력으로 미 군과 거래하는 어떤 계약자, 공급자, 파트너도 Anthropic과 상업적 활동을 할 수 없음
  • Anthropic은 원활한 전환을 위해 최대 6개월간 국방부에 서비스를 계속 제공하도록 함
  • "미국의 전투원은 빅테크의 이념적 변덕에 절대 인질이 되지 않을 것"이라며 최종 결정임을 명시

분쟁 배경: 수개월간의 협상

  • Anthropic과 국방부는 군의 Claude 사용 조건을 두고 수개월간 긴장된 협상을 진행했음
  • Anthropic은 사용 정책 조정에는 열려 있었으나, 미국인 대상 대규모 감시와 인간 개입 없이 발사하는 무기 개발에 모델이 사용되지 않도록 하는 두 가지 안전장치를 고수
  • 국방부는 이를 과도한 제한으로 보며, 대규모 감시와 자율 무기의 정의에 많은 회색 지대가 있어 실무적으로 운용이 불가하다고 주장
  • 국방부는 Anthropic뿐 아니라 OpenAI, Google, xAI와도 "모든 합법적 목적(all lawful purposes)" 기준으로 모델 사용을 요구하는 협상을 진행 중
  • 고위 국방부 관계자들은 오랫동안 Anthropic에 불만을 품어왔으며, 공개적 대립의 기회를 적극 활용했다고 보도됨

Hegseth-Amodei 직접 회담 (2월 24일)

  • Hegseth는 Amodei에게 국방부가 공급망 위험 지정 또는 국방물자생산법(Defense Production Act) 발동 중 하나를 택할 것임을 통보
  • 국방물자생산법은 1950년대 법률로, 국가 비상시 기업에 특정 제품 생산을 강제할 수 있는 권한 부여
  • 회의 분위기에 대해 한 관계자는 "따뜻한 분위기가 아니었다" 고 전했으나, 다른 소식통은 목소리를 높이는 일 없이 "정중했다" 고 전함
  • Hegseth는 Amodei에게 Claude를 칭찬하면서도, 어떤 기업도 국방부 운영 결정의 조건을 지시하거나 개별 사용 사례에 이의를 제기할 수 없다고 밝힘
  • Hegseth는 Maduro 작전 중 Anthropic이 Palantir에 Claude 사용 관련 우려를 제기했다는 국방부 주장을 구체적으로 언급했으나, Amodei는 이를 부인
  • 회의에는 국방부 차관 Steve Feinberg, 연구공학 차관 Emil Michael, 조달 차관 Michael Duffey 등 고위 인사 다수가 참석

Amodei의 최종 거부와 국방부 반응

  • 국방부의 "최선이자 최종 제안" 을 Amodei가 목요일 거부하며 "양심상 그들의 요구에 동의할 수 없다"고 발표
  • Emil Michael은 Amodei를 "거짓말쟁이" 이자 "신 콤플렉스" 를 가진 인물이라 칭하며 "국가 안보를 위험에 빠뜨리는 것에 동의한 것"이라고 비난
  • Anthropic 측은 회의 후에도 화해적 톤을 유지, "Anthropic이 정부의 국가 안보 임무를 계속 지원할 수 있도록 사용 정책에 대한 선의의 대화를 계속하고 있다"고 발표

Claude의 전략적 중요성과 전환 난제

  • Claude는 현재 미 군 기밀 시스템에서 사용되는 유일한 AI 모델
  • Maduro 체포 작전에서 Palantir와의 파트너십을 통해 사용되었으며, 잠재적 이란 군사 작전에도 활용 가능
  • 국방부 관계자도 Claude의 역량을 인정하며, 전환이 "엄청난 고통" 이 될 것이라 표현
  • 한 관계자는 "아직 대화하는 유일한 이유는 그들이 필요하고 지금 당장 필요하기 때문, 문제는 그들이 그만큼 뛰어나다는 것"이라고 발언
  • Anthropic의 국방부 계약 가치는 최대 2억 달러로, 연간 매출 140억 달러의 극히 일부
  • 그러나 미국 10대 기업 중 8개가 Claude를 사용한다고 Anthropic이 밝힌 만큼, 공급망 위험 지정의 파급 효과는 광범위할 전망

대체 모델 및 경쟁사 동향

  • Elon Musk의 xAI가 최근 기밀 환경에 Grok 도입 계약을 체결했으나, Claude를 완전히 대체할 수 있을지는 불확실
  • 국방부는 OpenAI와 Google의 모델을 비기밀 환경에서 기밀 시스템으로 이전하는 논의를 가속화 중
  • 고위 행정부 관계자는 경쟁 모델이 정부 특수 애플리케이션에서 "약간 뒤처져 있다" 고 인정, 급격한 전환을 어렵게 하는 요인
  • OpenAI, Google, xAI는 비기밀 시스템에서의 안전장치를 이미 제거하는 데 동의했으나, 기밀 작업에는 아직 미사용

OpenAI의 반응

  • OpenAI CEO Sam Altman이 금요일 메모를 통해 Anthropic과 동일한 레드라인을 갖고 있다고 발표
  • "AI는 대규모 감시나 자율 치명 무기에 사용되어서는 안 되며, 고위험 자동화 결정에는 인간이 개입해야 한다"고 명시
  • OpenAI도 국방부와 별도의 2억 달러 계약을 보유하고 있으나, 이는 비기밀 업무용

Trump 대통령의 성명

  • Truth Social에서 "모든 연방 기관의 Anthropic 기술 즉시 사용 중단" 을 지시
  • "필요 없고, 원하지 않으며, 다시는 거래하지 않을 것"이라고 선언
  • Anthropic을 "좌파 미치광이들" 이라 칭하며, 국방부에 이용약관 대신 헌법을 따르도록 강요하려 한 "재앙적 실수" 라고 비난

정치적 반응 및 우려

  • 상원 정보위원회 부위원장 Mark Warner 의원이 Trump의 조치를 비판
  • 국가 안보 결정이 신중한 분석이 아닌 정치적 고려에 의해 이루어지고 있는지에 대한 심각한 우려를 표명
  • 선호하는 벤더에 계약을 유도하기 위한 구실로 미국 기업을 위협하고 비하하는 것이 국가에 막대한 위험을 초래한다고 경고
  • 일부 연방 기관이 이미 신뢰성, 안전성, 보안 위협으로 식별한 모델로의 전환 가능성에 대한 우려도 제기

Anthropic의 입장과 향후 전망

  • Dario Amodei는 1월 에세이에서 핵심 우려로 "버튼 위의 손가락 수가 너무 적어지는 것" 을 지목, 소수의 인간이 다른 인간의 협력 없이 드론 군대를 운영할 수 있는 상황을 경계
  • Anthropic은 올해 기업공개(IPO)를 계획 중이며, 행정부와의 갈등이 투자자들에게 미칠 영향은 불확실
  • Amodei는 Trump 행정부에 맞선 이후에도 Anthropic의 기업가치와 매출이 오히려 성장했다고 언급
  • 이번 공급망 위험 지정은 기존에 러시아, 중국 등 적대국 기업에만 적용되던 조치로, 미국 기업에 적용된 것은 최초로 알려짐
  • Palantir 역시 기밀 작업에 Claude를 사용해왔기 때문에 경쟁사 모델로 전환이 필요한 상황
▲
cnaa97 2시간전  [-]

미합“중국”

답변달기
▲
GN⁺ 4시간전  [-]
Hacker News 의견들

  • 나는 DoW(Department of War) 와 Anthropic이 이미 계약을 맺었고, 그 안에 명확히 허용·금지된 조항이 있었을 거라 생각함
    그런데 지금 DoW가 그 계약 조건을 뒤집으려 하고 있음. Dario의 공식 성명을 다시 읽어보니, DoW가 주장하는 사용 사례는 애초에 계약에 포함되지 않았음
    결국 Anthropic은 원래 계약을 지키고 있고, DoW가 악의적으로 계약을 변경하려는 시도를 하는 것처럼 보임

    • Astral Codex Ten의 글을 보면 더 명확함
      원래 계약 조건은 펜타곤이 동의한 것이고, 지금은 펜타곤이 일방적으로 바꾸려는 상황임
    • 공급자가 고객에게 사용 방식을 제한하는 건 당연한 일임
      납이 섞인 파이프를 식수용으로 쓰지 말라고 말하는 것과 같은 맥락임
    • 이름을 Department of War로 바꾸려면 의회의 승인이 필요함. 여전히 공식 명칭은 DoD임
    • 이 행정부는 모든 협상에서 신뢰할 수 없는 태도를 보이고 있음. 국제 무역이든 기업 계약이든 마찬가지임
    • 트럼프 행정부는 과거에도 계약자들에게 돈을 떼먹은 전력이 있음. 이번에도 계약을 지킬 거라 기대하기 어려움

  • 국가 안보에 위협이 될 정도로 위험한 기업이라면서, 앞으로 6개월 동안은 계속 사용한다는 게 모순처럼 보임

    • 이런 행동은 합리적으로 설명할 수 없음. 단순히 압박(shakedown) 을 위한 움직임으로 보임
    • 참고로 Anthropic은 현재 펜타곤의 기밀 시스템에서 운영되는 유일한 AI 회사임 (NYT 기사)
    • 마피아식 협박처럼 “좋은 AI네, 무슨 일 생기면 안 좋을 텐데?” 하는 느낌임
    • 이 행정부는 즉흥적인 비상사태를 선포하며 예측 가능한 방식으로 움직이고 있음
    • 정부의 전형적인 협상 전략은 극단적인 요구를 내세운 뒤, 자신들에게 유리한 중간 지점에서 타협하는 것임

  • Anthropic이 원칙을 지키는 태도가 인상적임. 이런 회사야말로 함께 일하고 싶은 곳임

    • 물론 기업은 변할 수 있지만, 지금의 Anthropic은 존중받을 만함
    • Google, Facebook, OpenAI와 달리 윤리적 기준을 지키는 차별점이 뚜렷함
    • 지난 9개월 동안 PR팀이 정말 훌륭하게 대응해왔음
    • 하지만 이미 미국의 해외 공격으로 인한 희생자가 있다는 점도 잊지 말아야 함

  • 나는 Anthropic이 살상이나 감시에 관여하지 않겠다는 입장을 지지함
    미국의 애국심 있는 베테랑으로서, 차라리 Anthropic이 유럽으로 옮겨가는 게 낫다고 생각함
    Rutger Bregman이 말했듯, 유럽은 ASML을 통해 AI 하드웨어 병목을 장악하고 있고, Anthropic이 합류하면 AI 초강대국의 기반이 될 수 있음 (트윗 링크)

    • 하지만 Anthropic이 실제로 유럽으로 옮기면 직원들이 언어, 가족, 생활 문제로 어려움을 겪을 수 있음
    • 만약 유럽이 Claude를 만들 수 있었다면 이미 만들었을 것임
    • 캐나다도 좋은 대안임. Mila 연구소 같은 AI 연구 기반이 있고, 자유주의적 가치가 유지되고 있음
    • 그래도 회사 전체를 옮길 가능성은 낮음. 정부가 모델을 국유화하려 할 때나 가능할 것임

  • 이번 조치가 Anthropic에 치명적 타격이 될 수 있음
    DoD와 거래하는 모든 기업이 Anthropic과 상업 활동을 금지당하면, AWS·Google·Microsoft 같은 클라우드 플랫폼에서 Claude가 퇴출될 위험이 있음

    • 하지만 현실적으로는 불가능함. 대형 클라우드 기업들이 Anthropic의 주요 투자자이기 때문임. 결국 DoD가 체면을 구기지 않으려 후퇴할 것임
    • 실제로는 정부 관련 프로젝트에만 제한이 적용됨. 내부 업무용으로 Claude를 쓰는 건 가능함
    • 법적으로는 DoD 계약에 청구하거나 솔루션에 포함시키는 것만 금지됨
    • 즉, AWS는 Bedrock에서 Claude를 계속 제공하되, DoD 전용 계약에는 포함할 수 없음
    • 결국 정부 프로젝트에서만 비효율이 생길 뿐, 민간 영역에서는 계속 사용될 것임
    • 그래도 Anthropic의 주요 매출이 대기업 고객에서 나오기 때문에, 이미지 타격은 큼

  • Anthropic이 요구한 제한은 단 두 가지임
    (1) 국내 대규모 감시 금지, (2) 살상 결정에는 인간 개입 필수
    이 정도면 오히려 너무 온건한 조건임 (공식 성명)

    • 하지만 일부 인사들은 이 기술을 국민을 상대로 사용하려는 의도를 숨기지 않음

  • 이런 주제는 HN에서 다루기 어렵다고 느낌
    정치적 논의는 피해야 하지만, 이번 사안은 이념과 정책이 기술에 직접 영향을 주는 사례임

    • 정부가 악의적으로 행동하고 있다고 말하지 않고는 논의가 불가능함
      하지만 HN 가이드라인은 “선의로 해석하라”고 되어 있어서, 이런 주제는 본질적으로 다루기 힘듦
    • 내 경험상 HN에서는 정치가 금지된 게 아니라, 악의적 논쟁을 피하라는 의미였음
      기술과 정책의 관계를 논의하는 건 언제나 환영받았음
    • 사실 모든 것이 정치임. 기술도 예외가 아님
    • 그래도 정치 얘기만 하는 건 피해야 함. 이미 충분히 많은 사람이 그걸 하고 있음
    • 해커 문화 자체가 원래 정치적이고 이념적인 운동이었음. 이제 그 본질을 되찾을 때임

  • “미국 군과 거래하는 모든 기업은 Anthropic과 상업 활동을 금지한다”는 문구가 충격적임
    AWS나 GCP가 Claude를 재판매할 수 없게 되는 건지 궁금함

    • 아마 그렇고, 특히 AWS는 내부적으로도 사용이 금지될 수 있음
      MIT, Stanford, Caltech 등 정부 연구 자금이 들어가는 대학들도 Claude 사용을 중단해야 할 가능성이 큼
    • 결국 변호사들이 해석 싸움을 하겠지만, 공급망 리스크 소프트웨어와 연관된 시스템은 DoD 납품이 불가능해짐
    • 더 큰 문제는, 이런 논리라면 오픈소스 소프트웨어도 금지 대상이 될 수 있다는 점임
    • 결국 모두가 법적 금지 명령(injunction) 을 기다리게 될 것임
    • 실제로는 DoD와 거래하는 기업만 제한받고, 일반 고객은 계속 사용할 수 있을 듯함

  • 라틴아메리카 사람으로서, 예전엔 미국을 응원했지만 이제는 그렇지 않음
    미국은 라틴아메리카를 강압적으로 대하는 경향이 있고, 차라리 중국이 주도하는 세계가 덜 침략적으로 느껴짐

    • 미국이 이슬람 테러리즘을 만들어낸 장본인이라는 점도 잊지 말아야 함
    • 그래도 중국보다는 호주나 통합된 EU가 더 나은 대안일 수 있음

  • 1947년 트루먼 시절의 매카시즘(McCarthyism) 은 충성심 검증으로 시작해 블랙리스트와 투옥으로 이어졌음 (위키 링크)
    지금 상황은 그 시절의 재현처럼 보임. 정부의 말을 따르지 않으면 블랙리스트에 오르거나 제재받는 구조임

    • 중국의 Jack Ma와 Alibaba가 겪은 일과 비슷한 느낌임
    • 하지만 어떤 사람들은 “매카시는 옳았다”고 주장하기도 함
답변달기