# 구글, AI를 무기 및 감시에 사용하지 않겠다는 약속 철회

> Clean Markdown view of GeekNews topic #19072. Use the original source for factual precision when an external source URL is present.

## Metadata

- GeekNews HTML: [https://news.hada.io/topic?id=19072](https://news.hada.io/topic?id=19072)
- GeekNews Markdown: [https://news.hada.io/topic/19072.md](https://news.hada.io/topic/19072.md)
- Type: GN+
- Author: [neo](https://news.hada.io/@neo)
- Published: 2025-02-05T13:34:10+09:00
- Updated: 2025-02-05T13:34:10+09:00
- Original source: [washingtonpost.com](https://www.washingtonpost.com/technology/2025/02/04/google-ai-policies-weapons-harm)
- Points: 3
- Comments: 1

## Topic Body

- **Google의 AI 원칙 변경 배경**  
  - 기존 AI 원칙에서 무기나 감시 용도로 AI를 사용하지 않는다고 명시했던 약속이 사라짐  
  - Google의 Demis Hassabis와 James Manyika가 AI의 확산과 국가 안보 수요를 이유로 정책 변경을 발표함  
  - “민주 국가들이 AI 개발을 주도해야 하며, 정부 및 안보 영역과 협업해야 한다”고 강조함  
  
- **새로운 AI 정책 주요 내용**  
  - 국제법과 인권 원칙에 부합하도록 기술을 사용하겠다는 문구를 유지함  
  - “예기치 못한 피해를 완화하기 위해 테스트를 진행한다”는 항목이 추가됨  
  - 구체적으로 무기나 감시 활용에 대한 배제 조항이 삭제되었음  
  - Google 대변인은 무기∙감시 정책 변화에 대한 구체적 질문에 답변을 거부함  
  
- **과거 Google 내부 반발과 Maven 계약**  
  - 2018년, 미국 국방부와 드론 영상 분석 프로젝트(Maven)를 진행하다 직원들의 강한 반발이 일어났음  
  - 직원들은 “Google이 전쟁 사업에 관여해선 안 된다”라고 주장함  
  - 회사는 Maven 계약을 갱신하지 않았고, 그 후 AI 원칙을 공개하며 무기∙감시 사용을 금지한다는 약속을 포함했음  
  - 이번 정책 업데이트를 통해 해당 명시적 약속이 삭제되면서 과거 직원 반발 움직임이 다시 주목받고 있음  
  
- **산업계 영향**  
  - 실리콘밸리에서 군사∙국방 분야 협력은 빠르게 확장 중임  
  - Google 직원들의 Maven 반대가 업계에 큰 전환점을 만들었다는 평가가 있음  
  - 이번 정책 변경으로 Google의 AI가 군사∙감시 분야에 다시 적용될 가능성이 높아졌다는 분석이 존재함

## Comments



### Comment 34188

- Author: neo
- Created: 2025-02-05T13:34:11+09:00
- Points: 1

###### [Hacker News 의견](https://news.ycombinator.com/item?id=42938125) 
- 드론과 AI 무기의 위험성에 대해 논의함. 원격 암살, 정치적 혼란, 독재자의 선택적 타겟팅 등 다양한 악용 가능성이 있음
  - 많은 국가들이 이러한 기술을 보유하게 될 것이며, 이미 많은 AI 모델이 공개되어 있음
  - 기술 커뮤니티가 이 문제를 해결하기 위한 방법을 고민해야 함
  - 방어책, 감시 방법, 시민의 정부 무기 사용 감사 방법 등의 중요한 질문이 제기됨

- Google과 같은 대기업은 본질적으로 선하거나 도덕적이지 않으며, 이러한 이미지는 마케팅 전략일 뿐임

- 세계가 자멸로 향하는 현실을 인식하며, 비공개적으로 진행되는 무서운 발전들이 존재함

- 대부분의 사기업은 이익을 위해 기술을 사용할 것이며, 이전의 약속을 어길 것임

- 기업들이 정치적 상황에 따라 변화하는 것이 흥미로움
  - Google은 AI 발표에 대한 반응으로 이미지 관리를 신경 쓰고 있음

- OpenAI가 DoD 계약을 맺은 것과 Google의 행동을 비교하며, 솔직한 태도가 더 정직하다고 주장함

- 특정 국가가 군중 통제를 위해 무기를 필요로 한다고 주장함
  - 국제적 위기는 주로 미국과 러시아에 의해 시작되었음을 비판함

- 세계가 혼란스러운 상황에서 Google, OpenAI, Microsoft와 같은 기업이 국방 프로젝트에 참여하는 것이 긍정적이라고 생각함

- LLMs가 정보 기관에서 텍스트 분석을 확장할 수 있는 능력에 대한 우려를 표명함