▲

GN⁺: 구글, AI를 무기 및 감시에 사용하지 않겠다는 약속 철회

 (washingtonpost.com)
3P by neo 24일전 | ★ favorite | 댓글 1개

  • Google의 AI 원칙 변경 배경

    • 기존 AI 원칙에서 무기나 감시 용도로 AI를 사용하지 않는다고 명시했던 약속이 사라짐
    • Google의 Demis Hassabis와 James Manyika가 AI의 확산과 국가 안보 수요를 이유로 정책 변경을 발표함
    • “민주 국가들이 AI 개발을 주도해야 하며, 정부 및 안보 영역과 협업해야 한다”고 강조함

  • 새로운 AI 정책 주요 내용

    • 국제법과 인권 원칙에 부합하도록 기술을 사용하겠다는 문구를 유지함
    • “예기치 못한 피해를 완화하기 위해 테스트를 진행한다”는 항목이 추가됨
    • 구체적으로 무기나 감시 활용에 대한 배제 조항이 삭제되었음
    • Google 대변인은 무기∙감시 정책 변화에 대한 구체적 질문에 답변을 거부함

  • 과거 Google 내부 반발과 Maven 계약

    • 2018년, 미국 국방부와 드론 영상 분석 프로젝트(Maven)를 진행하다 직원들의 강한 반발이 일어났음
    • 직원들은 “Google이 전쟁 사업에 관여해선 안 된다”라고 주장함
    • 회사는 Maven 계약을 갱신하지 않았고, 그 후 AI 원칙을 공개하며 무기∙감시 사용을 금지한다는 약속을 포함했음
    • 이번 정책 업데이트를 통해 해당 명시적 약속이 삭제되면서 과거 직원 반발 움직임이 다시 주목받고 있음

  • 산업계 영향

    • 실리콘밸리에서 군사∙국방 분야 협력은 빠르게 확장 중임
    • Google 직원들의 Maven 반대가 업계에 큰 전환점을 만들었다는 평가가 있음
    • 이번 정책 변경으로 Google의 AI가 군사∙감시 분야에 다시 적용될 가능성이 높아졌다는 분석이 존재함
▲
neo 24일전  [-]
Hacker News 의견

  • 드론과 AI 무기의 위험성에 대해 논의함. 원격 암살, 정치적 혼란, 독재자의 선택적 타겟팅 등 다양한 악용 가능성이 있음

    • 많은 국가들이 이러한 기술을 보유하게 될 것이며, 이미 많은 AI 모델이 공개되어 있음
    • 기술 커뮤니티가 이 문제를 해결하기 위한 방법을 고민해야 함
    • 방어책, 감시 방법, 시민의 정부 무기 사용 감사 방법 등의 중요한 질문이 제기됨

  • Google과 같은 대기업은 본질적으로 선하거나 도덕적이지 않으며, 이러한 이미지는 마케팅 전략일 뿐임

  • 세계가 자멸로 향하는 현실을 인식하며, 비공개적으로 진행되는 무서운 발전들이 존재함

  • 대부분의 사기업은 이익을 위해 기술을 사용할 것이며, 이전의 약속을 어길 것임

  • 기업들이 정치적 상황에 따라 변화하는 것이 흥미로움

    • Google은 AI 발표에 대한 반응으로 이미지 관리를 신경 쓰고 있음

  • OpenAI가 DoD 계약을 맺은 것과 Google의 행동을 비교하며, 솔직한 태도가 더 정직하다고 주장함

  • 특정 국가가 군중 통제를 위해 무기를 필요로 한다고 주장함

    • 국제적 위기는 주로 미국과 러시아에 의해 시작되었음을 비판함

  • 세계가 혼란스러운 상황에서 Google, OpenAI, Microsoft와 같은 기업이 국방 프로젝트에 참여하는 것이 긍정적이라고 생각함

  • LLMs가 정보 기관에서 텍스트 분석을 확장할 수 있는 능력에 대한 우려를 표명함

답변달기