▲

Google 직원들, 군사용 인공지능에 ‘레드라인’ 설정 요구…Anthropic의 움직임과 유사

 (nytimes.com)
1P by GN⁺ 2시간전 | ★ favorite | 댓글 1개
  • Google 내부 직원들이 군사용 인공지능(AI) 프로젝트에 대한 명확한 윤리적 한계(레드라인) 설정을 요구함
  • 이들은 Pentagon(미 국방부) 과의 협력 확대에 우려를 표하며, AI의 군사적 활용 범위를 제한할 필요성을 제기함
  • 이러한 요구는 최근 Anthropic이 군사 AI에 대한 자체 제한을 설정한 결정과 유사한 흐름으로 평가됨
  • 직원들은 DeepMind 등 Google 산하 AI 부문이 무기 개발이나 전투 지원에 관여하지 않도록 명확한 지침을 마련해야 한다고 주장함
  • 기술 기업 내에서 AI 윤리와 안보 협력의 경계를 둘러싼 내부 논의가 다시 부상하고 있음

Google 직원들의 군사용 AI 우려

  • Google 직원들이 회사의 AI 기술이 군사 목적으로 사용될 가능성에 대해 우려를 제기함
    • 특히 Pentagon과의 협력이 확대되는 상황에서, AI의 살상 무기나 전투 시스템 적용을 막기 위한 내부 규범 필요성을 강조함
  • 직원들은 윤리적 가이드라인을 강화하고, AI 개발의 비군사적 목적을 명확히 해야 한다고 주장함

Anthropic과의 비교

  • 최근 Anthropic이 군사용 AI에 대한 자체 제한 조치를 발표한 바 있음
    • Google 직원들의 요구는 이러한 Anthropic의 결정과 유사한 방향성을 보임
  • 두 사례 모두 AI의 군사적 오용 방지를 위한 기술 업계 내부의 자정 움직임으로 해석됨

DeepMind의 역할과 내부 논의

  • Google 산하의 DeepMind가 Pentagon 관련 프로젝트에 참여할 가능성이 논의 대상이 됨
  • 일부 직원들은 DeepMind가 무기 개발이나 전투 지원 시스템에 관여하지 않도록 명확한 레드라인을 설정해야 한다고 주장함

기술 기업 내 윤리적 긴장

  • Google 내부의 이번 논의는 AI 윤리와 국가 안보 협력 간의 긴장을 다시 부각시킴
  • 직원들의 요구는 기업의 사회적 책임과 기술의 군사적 활용 제한이라는 두 가지 과제를 동시에 제기함

업계 전반의 의미

  • Anthropic과 Google 사례는 AI 기업들이 군사 협력에 대한 내부 기준을 재정립하는 흐름을 보여줌
  • 향후 다른 기술 기업들도 AI의 군사적 사용에 대한 명확한 정책 수립을 요구받을 가능성이 있음
▲
GN⁺ 2시간전  [-]
Hacker News 의견들

  • 비전은 이해하지만, 이게 글로벌 규모에서 어떻게 작동할지 궁금함
    예를 들어 미국 직원들은 이런 무기 개발을 거부하지만, 중국 직원들은 그렇지 않을 수 있음
    개인의 반전 감정과 세계 현실, 특히 AI 군비 경쟁 속 균형을 어떻게 잡을 수 있을지 고민임

    • 중국이 AI를 무기화했을 때 외부 세계에 어떤 위협이 되는지를 명확히 설명하고, 그에 대한 대응책을 논의해야 함
      무조건 능력을 따라가야 한다는 논리는 위험함
      개인적 반전 감정과 현실의 균형은 정보의 개방, 자발적 동의 거부, 그리고 모든 결정에 대한 정당성 요구로 맞춰야 함
    • 걱정할 필요 없음. Google이 안 해도 xAI가 할 것임
      참고로 Anthropic은 모든 군사 프로젝트를 거부한 게 아니라, 조건부 참여 방식을 취했음
    • 게임이론을 떠나 현실적으로 보면, 중국이 AI를 무기화하면 ‘언젠가’ 사용할 가능성이 있지만
      미국이 무기화하면 ‘올해 안에’ 실제로 사람을 죽일 가능성이 높음
      즉, 미국 개발자는 그 결과가 즉각적 현실이라는 점을 고려해야 함
    • 핵무기 경쟁 때처럼 조약을 통해 제한하고 통제해야 함
      다만 정치 지도자들이 도덕적 한계를 넘기 전에 협상을 시작했더라면 더 나았을 것임
    • 참여자가 줄면 진전 속도가 느려짐
      즉, 뛰어난 엔지니어들이 비윤리적 프로젝트를 거부하면, 덜 숙련된 사람들이 나쁜 일을 저지를 기회도 줄어듦
      마치 화이트햇 개발자가 블랙햇 해커와 협력하지 않는 것처럼, 윤리적 불참이 억제 효과를 가짐

  • 이런 사안을 자율 규제에만 맡겨야 한다면 이미 희망이 없다는 생각임

    • 결국 최상위에서는 자율 규제가 전부임
      그래도 이런 도덕적 망설임을 공개적으로 드러내는 건 진전임
      이런 대화가 쌓여야 사회적 공감대가 형성되고, 변화의 요구로 이어짐
    • 지금 상황이 너무 심각해서, 자율 규제라도 없는 것보단 낫다고 생각함
      광기의 권력자에게 무릎 꿇는 것보단 훨씬 나음

  • 의도는 좋지만, 이미 AI 무기화의 판도라 상자는 오래전에 열렸음

    • 항상 이런 말이 나옴 — “이제 와서 통제는 불가능하다”
      하지만 그런 식이었다면 인류는 이미 여러 번 멸망했을 것임
      절제는 가능하다는 믿음을 잃지 말아야 함
    • 사실 이런 흐름은 처음부터 있었음
      미국 군이 수많은 컴퓨팅 프로젝트를 후원해왔기 때문임

  • 기준선은 “국내 한정 사용”이 아니라 그냥 “하지 않는다”여야 함

  • “Google 직원 100명이 항의했다”는 소식이 인상적임

    • 하지만 이런 일은 종종 비밀 프로젝트로 전환되어, 관련자들이 결국 해고될 가능성이 큼
      아마 2027년쯤이면 조용히 정리될 것 같음
    • 실제로는 200명 정도라고 들음
    • 그래도 모든 변화는 소수의 용기 있는 사람들로부터 시작됨

  • Jeff Dean의 정치적 발언을 보면 저항 쪽에 가까운 것 같음
    하지만 경영진 전체가 그 입장을 따를지는 의문임

    • 다만 미국인이 자율 무기에 의해 희생되는 순간, 이런 저항은 사라질 것임
      그런 일이 일어나지 않도록 지금 최대한 예방해야 함

  • 뉴욕타임스 기사: 우크라이나 전쟁과 AI 드론의 역할

  • Google이 원칙적인 입장을 끝까지 지킬 거라고는 거의 믿지 않음

  • 흥미로운 점은, 국방부가 Anthropic을 공급망 위험 기업으로 지정하면서도
    OpenAI에는 계약을 준 이유임
    두 회사의 금지 정책은 거의 동일한데 왜 이런 차별이 있었는지 의문임

  • 이런 논의가 벌써 잊혔다는 게 놀라움
    The Guardian 기사에 따르면
    Google과 OpenAI 모두 이미 국방 계약을 맺고 있음
    이에 동의하지 않는다면 회사를 떠나는 게 맞지만, 실제로 그렇게 할 사람은 거의 없을 것임

    • 나는 오히려 남아서 은근히 비효율적으로 일하는 방식으로 저항하는 게 낫다고 생각함
답변달기