Hacker News 의견들

• 기사 제목의 프레이밍이 이상함
  보고서에 따르면 1,250명 중 약 5%만 민간인일 가능성이 있다고 하지만, 같은 인권 단체가 같은 기간 동안 갱단 폭력으로 1,500명 이상의 민간인이 사망했다고 밝힘
  정부가 이 기술을 사용해 싸우는 폭력의 규모를 고려하면 맥락이 복잡함
  HRW 보고서 링크

  • 범죄자를 처리하는 합법적 수단이 드론 공격이 된 적이 있었는지 의문임
    사람을 죽이기 전에 재판이 있었던 시절이 떠오름

• HRW의 보고서에 따르면 아이티에서 지난 1년간 드론 공격으로 최소 1,243명이 사망했고, 그중 17명은 어린이였음
  첫 문단은 대부분이 민간인처럼 들리지만, 두 번째 문단은 5% 정도로 보이게 만듦
  ‘many’ 라는 표현이 너무 모호해서 실제 비율이 궁금함

  • “민간 계약자”라는 표현을 보니 결국 용병이 드론을 조종하는 셈이라 씁쓸함
  • 내 이해로는 이 모든 사망이 사법 절차 없이 이루어진 것임
    미국에서 이런 일이 벌어진다면 차라리 드론이 테이저건만 달고 오길 바람

• 이 모든 보도를 브루클린의 아이티언 기자들이 운영하는 Haitian Times가 취재했다는 점을 기억해야 함
  어려운 환경에서도 저널리즘의 기준을 지켜낸 그들의 노력이 인상적임

• HRW의 아메리카 프로그램 국장이 “아이티 정부가 즉시 보안군과 민간 계약 회사를 통제해야 한다”고 말했지만,
  1,200명 사망에 대한 단순한 비판만으로는 폭력의 대안 부재를 설명하기 어려움

• 역시나 Erik Prince의 회사였음
  그는 Blackwater를 창립했고, GW Bush 시절 Nisour Square 학살로 악명 높았음
  최근에는 자율 살상 드론 회사 Swarmer를 상장 준비 중이며, 이번 사건의 배후인 Vectrus도 그의 회사임

  • Trump 행정부 시절, 2014년에 유죄 판결을 받은 Blackwater 직원 4명이 2020년에 사면되었음
  • 처음 듣는 이름이라는데, 간단히 말해 민간 군사기업의 상징적 인물임

• “사법 외 살해(extrajudicial killing)”라는 표현은 결국 살인을 완곡하게 부르는 말 아님?

  • 자경단식 폭력도 여기에 포함된다고 생각함
    법적 절차 없이 경찰이나 개인이 행한 살해를 뜻하며, 미국에서도 이런 사례가 종종 있었음
  • 전쟁은 지옥이라는 말이 떠오름

• AI를 더 깊이 개입시키면 인간의 책임을 완전히 세탁할 수 있을지도 모름

  • 하지만 자율 무기라도 발사한 인간이 책임을 져야 함
    90년대의 대레이더 미사일도 이미 높은 자율성을 가졌지만, 여전히 인간이 목표와 시간, 지역을 설정했음
  • 인간의 뇌는 장식품처럼 되어가고 있음
    VC들이 살상 기술에 투자하고, 시민들은 무관심함
    원자폭탄 개발 후 우울해했던 Feynman의 일화가 떠오름 — 자신이 만든 도구가 대량 살상에 쓰였다는 자각 때문이었음
  • 이미 이런 일은 현실임
    가자지구의 AI 기반 표적 시스템 사례 참고

• 드론이나 AI 관련 보안 기업에서 일하는 기술자라면 선택지는 세 가지임

  1. 모든 정보를 공개해 책임 회피
  2. 즉시 퇴사
  3. 감옥행을 각오
     이런 기술은 근본적으로 악한 행위에 가깝다고 생각함
  • 하지만 “악당들이 살상 드론을 가지는데 우리만 안 가지는 건 위험하다”는 반론도 있음
  • “그럴 바엔 Shoggoth를 소환해서 모두 사라지게 하자”는 농담 섞인 반응도 있었음
  • 다행히 작년에 업계를 전환해서 지금은 마음이 편하다는 사람도 있음
  • 어떤 일자리는 한 번 선택하면 커리어 전체를 규정하게 된다는 점을 명심해야 함