Hacker News 의견들

• Maven은 전쟁 한가운데서 쓰이도록 만들어진 도구임
  양측이 교전 중일 때는 몇 분의 시간 절약이 곧 생명 절약으로 이어짐
  하지만 이번 공격은 교전 중이 아닌 기습 공격이었음. 아무도 반격하지 않는 상황에서 시간을 아낀다고 생명을 구한 건 아님
  목표 식별을 더 신중히 했어야 했고, 사람이 여러 차례 검증했어야 함. 학교는 명백히 학교였고, 웹사이트까지 있었음
  단 세 번의 클릭으로 다음 목표로 넘어간 건 명백한 인간의 과실임. 이런 실수를 막을 시간은 충분했음
  도구에 대한 과신이든 민간인 생명에 대한 무시든, 그 결과는 어린 소녀들의 죽음이었음
  이런 결정을 내린 사람에게는 반드시 책임이 따르길 바람

  • 도구에 대한 과신과 민간인 생명 경시, 둘 다 작용했을 가능성이 있음
    미국은 국가 불안정화를 목적으로 전쟁을 시작했고, 그 과정에서 민간인 피해를 무시했음
    마치 내가 집에 불을 질러놓고 나중에 “그게 유치원이었는지 몰랐다”고 변명하는 꼴임
    과거 ‘테러와의 전쟁’ 시절에도 결혼식장을 폭격하고 “실수였다”고 했던 사례가 많았음
  • 나는 학교 웹사이트를 찾지 못했고, Google Maps에도 표시되지 않았음을 확인했음
    하지만 이런 온라인 정보는 목표 선정의 신뢰할 만한 근거가 아님
    위성 관측 등 직접적인 정보로 식별했어야 함. 학교는 일정한 활동 패턴이 있고, 군사 시설과는 다르게 보였을 것임
    아마도 전체 기지를 하나의 단위로 지정하면서, 학교 건물을 기지 일부로 오인한 듯함
    명령이 내려진 뒤에는 시간 압박이 있었을 수도 있음. 어쨌든 이번 일은 비극임
  • 뉴욕타임스 분석을 보면, 해당 건물이 원래 기지의 일부였고 외형상으로도 복합체의 일부처럼 보였음
    수천 번의 출격 중 단 한 번의 오폭이라면 오류율은 낮은 편이지만, 이번은 명백한 실패임
    다만 “충분히 검토되지 않았다”는 주장은 근거가 약함. 실제로 내부 관계자들은 이 목표가 제거 대상에서 빠졌어야 한다고 말함
  • “충분한 시간이 있었다”는 말은 틀림. 이란 고위층을 한자리에 모을 기회는 드물고, 시간 제약 속에서 작전이 진행되었음
  • 나는 네가 말한 요점을 명확히 정리해줘서 고맙게 생각함
    이런 기습 공격의 본질 때문에 책임은 전적으로 계획자와 승인자, 실행자에게 있음
    “왜 아이들이 학교에 있었냐”는 질문은 무지의 소산임. 이란은 주말 체계가 다르고, 기습 공격을 예측할 수 없었음
    lethal force를 쉽게 사용할수록 무고한 피해자가 늘어남
    또한 WhatsApp 메타데이터로 성인 남성 위치를 추적해 공격했다는 이스라엘의 사례도 있음
    이런 방식은 20년 전과 다를 바 없고, 언젠가 우리 집에도 그런 폭탄이 떨어질 수 있음

• 몇 주 전에도 비슷한 일이 있었음
  미국과 이스라엘이 이란 경찰 시설을 공격하다가, 이름에 “Police”가 들어간 테헤란의 공원(Police Park) 을 폭격함
  실제로는 그냥 일반 공원이었음
  관련 영상, 추가 출처
  AI에게 “테헤란의 경찰 시설 100곳을 나열하라”고 하면 이런 결과가 나올 것임. AI가 목표 선정에 사용된 정황이 뚜렷함

  • 하지만 “Police Park이 실제로 폭격당했다”는 확실한 근거가 없음. 존재는 하지만 이야기가 조작된 듯함

• 미국은 도덕적·윤리적으로 파산한 국가이기 때문에 이런 일이 반복됨
  Amiriyah 대피소 폭격 사건도 그 예임

  • 이런 폭력 행위를 멈추려면 미국 제품 불매운동이라도 해야 하는 것 아님?

• 기사에서 “Anthropic의 Claude가 학교를 목표로 지정했다”는 부분이 처음 나왔음
  지금까지는 AI 사용보다는 낡은 절차와 정보 오류가 원인이라는 보도가 많았음

  • 하지만 The Guardian과 Washington Post에서도 이미 3월 초에 Claude가 이란 공격에 사용됐다고 보도했음
  • 나도 그 주장을 여러 곳에서 들었음
  • 이 사안에는 많은 혼란과 오해가 있음
    Claude는 Amazon Bedrock에서 실행될 수 있는데, 이 경우 Anthropic이 직접 운영하는 API가 아니라 고객 데이터센터 내에서 모델이 구동됨
    Palantir 같은 벤더가 어떤 모델을 쓰든 선택할 수 있고, Claude를 Bedrock을 통해 사용했을 가능성이 있음
    Anthropic은 이런 계약에서는 텔레메트리 접근 권한이 없기 때문에, 실제 사용 방식을 증명할 수 없음
    결국 “Claude가 사용됐다”는 말은 기술적으로 맞을 수도, 아닐 수도 있는 레드헤링임

• 기사 작성자가 먼저 자신의 Substack 글에서 이 주제를 다뤘다는 점도 언급할 만함

• 정말 AI의 잘못이라고 믿는 사람이 있었을까?
  현대 군대에서 LLM은 책임 회피용 도구로 쓰이는 경우가 많음
  명확한 목표가 있었다면 문서화된 리스트가 준비됐을 것임
  하지만 지금은 “폭탄을 최대한 많이 떨어뜨리고, 컴퓨터가 알아서 잘 하겠지”라는 식의 접근임
  전략적 목표보다 살상 자체가 우선이 된 현실임

• 기사 내용이 흥미로웠음
  “미군은 관측과 파괴 사이의 간극을 줄이려 노력해왔다”는 문장은 다소 편향돼 보이지만, 전쟁의 안개(fog of war) 가 얼마나 짙어졌는지를 잘 보여줌
  초반 몇 문단은 오히려 신선하게 느껴졌음

• “AI-washing이 이제는 해고뿐 아니라 전쟁에도 쓰인다”는 점이 인상적이었음

  • AI의 가장 큰 역할은 책임과 소유권을 제거하는 것임

• 예전에는 신, 그다음엔 자연, 그리고 이제는 AI임
  인간은 자신의 행동에 대한 책임 회피라는 근본적인 문제를 안고 있음
  산업화와 컴퓨터 시대 전체가 어쩌면 그 책임을 영구히 없애려는 시도처럼 보임

• 결국 어떤 경우든 미국의 전쟁 범죄는 변명될 수 없음
  사과조차 제대로 하지 못하는 현실이, 훗날 우리가 되돌아보게 될 역사의 분기점이 될지도 모름