- +972 Magazine과 Local Call 조사에 따르면 이스라엘군은 가자 전쟁 초기 Lavender를 이용해 팔레스타인인 수만 명을 암살 표적으로 표시했고, 정보 장교들은 그 결과를 사실상 인간 판단처럼 취급함
- Lavender는 Hamas와 Palestinian Islamic Jihad 군사조직 구성원으로 의심되는 사람을 점수화했으며, 전쟁 첫 몇 주 동안 약 37,000명이 의심 무장대원으로 표시됐다는 증언이 나옴
- 여러 정보 소식통은 장교들이 표적을 독립 검증하지 않고 남성 여부 확인에 보통 20초만 썼으며, 내부적으로 약 10% 오류를 알고도 “무오류” 정책을 두지 않았다고 밝힘
- 표적 추적에는 Where’s Daddy? 같은 자동화 시스템이 쓰였고, 표적이 가족 주거지에 들어오면 폭격 대상으로 삼았으며, 하급 표적에는 정밀유도탄보다 비유도 폭탄(dumb bomb) 을 선호했다는 증언이 있음
- 이스라엘군은 AI가 표적을 “기소”했다는 주장을 부인하고 독립적 정보 분석과 국제법 준수를 내세웠지만, 소식통들은 민간인 피해 허용치와 자동화된 부수 피해 계산, 실시간 검증 부재가 대규모 민간인 사망으로 이어졌다고 봄
Lavender가 맡은 표적 생성
- 2021년 영어로 출간된 The Human-Machine Team은 전쟁 중 방대한 데이터를 빠르게 처리해 수천 개의 군사 표적 후보를 만드는 “기계”를 구상함
- 저자는 필명 “Brigadier General Y.S.”를 사용했고, +972와 Local Call은 그가 이스라엘 정보부대 Unit 8200의 현 지휘관이라고 확인했다고 밝힘
- 책은 새 표적을 찾고 표적 승인 결정을 내리는 과정의 인간 병목을 해결하기 위해 AI와 인간의 결합을 주장함
- 조사에 따르면 이스라엘군은 실제로 Lavender라는 AI 기반 프로그램을 개발했으며, 가자 전쟁 중 AI를 이용한 암살 표적 생성에 직접 관여한 이스라엘 정보 장교 6명이 이를 증언함
- 이 시스템은 공식적으로 Hamas와 Palestinian Islamic Jihad 군사조직의 의심 구성원, 특히 하급 구성원까지 잠재 폭격 표적으로 표시하도록 설계됨
- 소식통들은 전쟁 첫 몇 주 동안 군이 Lavender에 거의 전적으로 의존했고, 약 37,000명의 팔레스타인인과 그들의 주거지가 공습 후보로 표시됐다고 전함
- 이스라엘군 대변인은 +972와 Local Call에 보낸 답변에서 그런 kill list의 존재를 부인함
“인간 표적” 범위의 확대
- 이스라엘군에서 과거 “human target”은 군 국제법 부서의 규칙상 민간인이 주변에 있어도 사적 주거지에서 살해할 수 있는 고위 군사 요원을 뜻했음
- 10월 7일 Hamas 주도 무장세력이 이스라엘 남부 지역을 공격해 약 1,200명을 살해하고 240명을 납치한 뒤, 이스라엘군은 “Operation Iron Swords”에서 Hamas 군사조직 구성원 전체를 계급과 군사적 중요도와 무관하게 human target으로 지정했다고 소식통들이 말함
- 과거에는 단일 human target 암살을 승인하려면 장교가 복잡하고 긴 기소(incrimination) 절차를 거쳐야 했음
- 대상이 Hamas 군사조직의 고위 구성원인지 증거를 교차 확인함
- 거주지와 연락처를 파악함
- 대상이 집에 있는 시점을 실시간으로 알아야 했음
- 표적 목록이 수십 명의 고위 요원에서 수만 명의 하급 요원으로 확대되자, 정보 업무는 자동화 소프트웨어와 AI에 크게 의존하게 됐다고 소식통들은 설명함
- 한 고위 장교는 하급 요원을 자동으로 공격할 수 있게 하는 것이 “Holy Grail”이었고, 자동화로 전환하면 표적 생성이 폭증한다고 말함
Lavender의 작동 방식과 데이터
- Lavender는 가자지구 주민 230만 명 대부분에 대해 대규모 감시 체계로 수집한 정보를 분석하고, 각 개인이 Hamas 또는 PIJ 군사조직에서 활동할 가능성을 1~100점으로 평가함
- 시스템은 알려진 Hamas와 PIJ 구성원의 정보를 훈련 데이터로 받아 그들의 특성, 즉 features를 학습하고, 일반 인구에서 유사한 특성을 찾음
- 책 The Human-Machine Team에는 AI 기반 “target machine”을 구축하는 짧은 안내가 들어 있으며, 개인의 점수를 높일 수 있는 특징 예시가 포함됨
- 알려진 무장대원과 같은 Whatsapp 그룹에 있음
- 몇 달마다 휴대전화를 바꿈
- 주소를 자주 바꿈
- Unit 8200의 Data Science and AI 센터 지휘관 “Col. Yoav”는 2023년 Tel Aviv University AI week 비공개 강연에서 기존 무장대원 목록과의 유사성을 기반으로 “위험한 사람”을 탐지하는 표적 기계를 설명함
- 그는 2021년 5월 가자 군사작전에서 이 시스템으로 Hamas 미사일 부대 지휘관을 식별했다고 말함
- 강연 슬라이드는 기존 Hamas 요원 데이터를 입력하고, 특징을 학습한 뒤, 다른 팔레스타인인을 유사도에 따라 점수화하는 구조를 보여줌
- “Col. Yoav”는 최종 결정은 사람이 내린다고 강조했지만, 최근 Lavender를 사용한 소식통들은 실제로 인간의 정밀 판단이 대량 표적 생성과 치명성으로 대체됐다고 말함
승인 절차와 오류 허용
- 소식통들에 따르면 Lavender 표적 목록의 자동 채택은 전쟁 약 2주 뒤 승인됨
- 정보 인력이 AI가 선택한 수백 개 표본을 수작업으로 확인함
- 해당 표본에서 Lavender가 Hamas 관련성을 식별하는 정확도가 90% 에 이르렀다고 평가됨
- 이후 Lavender가 어떤 개인을 Hamas 무장대원으로 판단하면, 장교들은 원자료나 판단 이유를 독립적으로 확인할 필요 없이 이를 사실상 명령처럼 다뤘다고 말함
- 한 고위 장교는 내부 점검상 Lavender 계산이 90%만 정확한 것으로 여겨졌고, 이는 암살 표적의 10%가 Hamas 군사조직 구성원이 아닐 수 있음을 뜻한다고 말함
- Lavender는 통신 패턴이 알려진 Hamas 또는 PIJ 구성원과 비슷한 사람을 잘못 표시할 수 있었다고 소식통들은 설명함
- 경찰과 민방위 인력
- 무장대원의 친척
- 실제 요원과 이름이나 별명이 같은 주민
- 과거 Hamas 요원이 쓰던 기기를 사용한 가자 주민
- 한 소식통은 “무오류 정책”이 없었고, 오류가 통계적으로 취급됐다고 말함
- 다른 정보 소식통은 하급 무장대원 표적에서는 정보 장교의 시간을 들여 검증할 가치가 낮다며, AI 사용의 오류 범위와 민간인 사망 위험을 감수했다고 설명함
인간 검증은 남성 여부 확인에 그침
- 이스라엘군은 AI를 이용해 표적을 기소했다는 주장을 부인하고, 이런 도구는 기소 과정을 돕는 보조 도구일 뿐이라고 답함
- 군 답변은 어떤 경우에도 정보 분석관의 독립 검토가 필요하며, 식별된 표적이 군 지침과 국제법에 맞는 합법 표적인지 검증한다고 밝힘
- 그러나 소식통들은 Lavender가 표시한 하급 의심 무장대원의 집을 폭격하기 전 실제 인간 감독 절차가 한 가지 확인에 가까웠다고 말함
- AI가 선택한 표적이 여성인지 남성인지 확인함
- 군 내부에는 Hamas와 PIJ 군사조직에 여성이 없으므로, 표적이 여성이면 기계 오류일 가능성이 크다는 가정이 있었다고 함
- 한 고위 장교는 표적 하나당 보통 20초를 쓰며, 남성 음성인지 확인하는 정도가 자신의 유일한 인간적 부가가치였다고 말함
- 이 방식에서는 Lavender가 민간 남성을 잘못 표시했을 때 오류를 잡아낼 감독 장치가 없었다고 소식통들은 지적함
Where’s Daddy?와 가족 주거지 추적
- 다음 단계는 Lavender가 만든 표적을 어디에서 공격할지 정하는 일이었음
- 이스라엘군은 Hamas가 민간 인구 중심부에 요원과 군사 자산을 배치하고, 병원·모스크·학교·UN 시설 같은 민간 구조물 안에서 전투를 수행한다고 주장함
- 여섯 소식통도 Hamas의 터널 체계가 병원과 학교 아래를 지나고, 무장대원이 구급차를 이용하며, 군사 자산이 민간 건물 근처에 배치됐다는 점을 어느 정도 인정함
- 동시에 소식통들은 현재 폭격에서 사망자가 전례 없이 늘어난 주요 이유 중 하나가 군이 표적을 사적 주거지에서 가족과 함께 있을 때 체계적으로 공격했기 때문이라고 말함
- 자동 추적 소프트웨어는 수천 명을 동시에 추적하고, 표적이 집에 들어오면 표적 담당 장교에게 자동 알림을 보냈다고 함
- 이 가운데 하나가 처음 공개된 Where’s Daddy? 임
- 한 소식통은 이를 “broad hunting”이라고 부르며, 표적 시스템이 만든 목록을 복사해 넣고 누가 살해 가능한지 기다리는 방식이라고 설명함
- UN 수치에 따르면 전쟁 첫 달 사망자의 절반 이상인 6,120명은 1,340가족에 속했고, 많은 가족이 집 안에서 완전히 몰살됨
- Lavender 목록에 있는 이름을 Where’s Daddy?에 넣으면 해당 인물이 지속 감시되고, 집에 들어가는 순간 집 전체를 무너뜨리는 공격 대상이 될 수 있었다는 증언이 나옴
무기 선택과 비유도 폭탄
- Lavender가 암살 표적을 표시하고, 군 인력이 남성 여부를 확인하며, 추적 소프트웨어가 주거지 안 위치를 포착하면 다음 단계는 폭탄 선택이었음
- CNN은 2023년 12월 미국 정보 추정치를 인용해 이스라엘 공군이 가자에서 사용한 탄약의 약 45% 가 유도되지 않는 비유도 폭탄(dumb bomb) 이라고 보도함
- 세 명의 정보 소식통은 Lavender가 표시한 하급 요원 암살에는 더 비싼 정밀 무장을 아끼기 위해 비유도 폭탄만 사용됐다고 말함
- 한 소식통은 하급 표적이 고층 건물에 살면 더 정밀하고 비싼 “floor bomb”을 쓰고 싶지 않아 공격하지 않았지만, 몇 층짜리 건물에 살면 비유도 폭탄으로 건물 안 사람들까지 함께 죽이는 공격이 승인됐다고 설명함
- 다른 소식통은 시스템 때문에 표적이 끝나지 않았고, 한 공격이 취소되면 바로 다음 표적으로 넘어갔다고 말함
민간인 사망 허용치
- 소식통들에 따르면 전쟁 초기 몇 주 동안 AI 시스템이 표시한 하급 무장대원 1명당 허용 가능한 민간인 사망자는 15명 또는 20명으로 고정됐음
- 이 “collateral damage degree”는 계급, 군사적 중요도, 나이와 무관하게 의심 하급 무장대원 전체에 폭넓게 적용됐고, 개별 사건별로 군사적 이익과 예상 민간 피해를 비교하지 않았다고 함
- 한 표적 작전실 장교는 군 국제법 부서가 과거에 이런 수준의 부수 피해를 포괄 승인한 적이 없었다고 말함
- 그는 Hamas 군복을 지난 1~2년 사이 착용한 사람은 특별 허가 없이 민간인 20명 부수 피해와 함께 폭격될 수 있었고, 실제로 비례성 원칙이 존재하지 않았다고 말함
- 다른 고위 소식통은 전쟁 첫 주에는 부수 피해를 거의 고려하지 않았고, 이후 제한이 내려갔다가 다시 올라갔다고 설명함
고위 지휘관 표적과 더 큰 민간 피해
- 소식통들은 현재 군이 민간 주거지 내 하급 human target을 대량 생성해 폭격하는 방식은 더 이상 사용하지 않는다고 말함
- 일부는 미국의 압력이 영향을 미쳤다고 함
- 가자지구의 많은 주택이 이미 파괴되거나 손상되고 거의 전체 인구가 이주하면서, 정보 데이터베이스와 자동 주거지 추적 프로그램에 의존하기 어려워졌다고 함
- 하급 요원 대량 폭격은 전쟁 첫 1~2주에 주로 이뤄졌고, 이후 폭탄을 아끼기 위해 중단됐다는 소식통도 있음
- 그러나 고위 Hamas 지휘관을 겨냥한 공습은 계속됐고, 이 경우 표적 1명당 수백 명의 민간인 사망을 군이 승인하고 있다고 소식통들은 말함
- 12월 2일 Shuja’iya Battalion 지휘관 Wisam Farhat을 겨냥한 폭격에 대해 한 소식통은 민간인 100명 이상이 사망할 것을 알고 있었다고 회상함
- 10월 17일 Al-Bureij 난민캠프에서 Hamas Central Gaza Brigade 지휘관 Ayman Nofal을 암살하기 위해 약 300명의 민간인 사망이 승인됐고, 여러 건물이 파괴됐다는 증언도 나옴
- General Peter Gersten은 2021년 미국 방위 매체에 ISIS 대응 작전에서 민간인 15명 부수 피해 공격은 절차를 벗어나며, 당시 미 중부사령부 사령관 Lloyd Austin의 특별 허가가 필요했다고 말한 바 있음
10월 7일 이후의 군 내부 분위기
- 모든 소식통은 10월 7일 Hamas의 학살과 인질 납치가 이스라엘군의 화력 정책과 부수 피해 허용치에 큰 영향을 줬다고 말함
- 한 소식통은 초기 분위기가 고통스럽고 보복적이었으며, 규칙이 매우 느슨했다고 설명함
- 다른 소식통은 전문 조직 내부에 “히스테리”가 있었고, 군이 어떻게 대응해야 할지 몰라 Hamas 역량을 해체하려고 맹렬히 폭격하기 시작했다고 말함
- 한 정보 소식통은 명시적으로 “복수”가 목표라는 지시는 없었지만, Hamas와 연결된 모든 표적이 합법화되고 거의 모든 부수 피해가 승인되면 수천 명이 죽을 것이 분명했다고 말함
- 이스라엘군은 각 표적이 개별적으로 검토되고, 공격의 군사적 이익과 예상 부수 피해가 평가되며, 예상 부수 피해가 군사적 이익에 비해 과도하면 공격하지 않는다고 답함
부수 피해 계산의 자동화
- 소식통들에 따르면 각 집에서 표적과 함께 사망할 것으로 예상되는 민간인 수 계산도 자동화되고 부정확한 도구로 수행됨
- 과거 전쟁에서는 정보 인력이 폭격 예정 주택 안에 몇 명이 있는지 확인하는 데 많은 시간을 썼고, 그 숫자는 “target file”에 기록됐음
- 10월 7일 이후에는 이런 철저한 검증이 대체로 중단되고 자동화로 바뀌었다고 함
- 소식통들이 설명한 방식은 전쟁 전 각 주택의 거주자 수를 건물 규모와 거주자 목록으로 추산한 뒤, 해당 동네에서 대피한 주민 비율만큼 숫자를 줄이는 모델임
- 예를 들어 동네 주민 절반이 떠났다고 추정하면, 평소 10명이 사는 집은 5명이 있는 것으로 계산함
- 군은 시간을 아끼기 위해 과거 작전처럼 실제 주택 감시로 현재 거주 인원을 확인하지 않았다고 함
- 한 소식통은 이 모델이 현실과 연결되지 않았고, 전쟁 전 등록 거주자와 전쟁 중 실제로 집 안에 있는 사람이 일치하지 않았다고 말함
- 같은 소식통은 군이 이런 오류 가능성을 알았지만, 더 빠르다는 이유로 부정확한 모델을 채택했다고 설명함
실시간 검증 부재와 폭격 이후 확인 축소
- Where’s Daddy? 같은 추적 시스템이 표적의 귀가를 알린 시점과 실제 폭격 사이에는 상당한 시간 차가 날 수 있었고, 이 때문에 표적 없이 가족 전체가 사망하는 경우가 있었다고 소식통들은 말함
- 세 명의 정보 소식통은 이스라엘군이 가족 주거지를 폭격했지만, 나중에 암살 대상이 집 안에 없었다는 사실이 확인된 사례를 목격했다고 말함
- 한 소식통은 표적이 몇 시간 전 집에 있었기 때문에 그대로 폭격하는 경우가 있었고, 때로는 위치를 재확인하지만 때로는 재확인하지 않았다고 설명함
- 다른 소식통은 오후 8시에 표적이 집에 있다고 파악했으나 공군이 오전 3시에 폭격했고, 그 사이 표적이 가족과 함께 다른 집으로 이동했으며 폭격된 건물에는 아이들이 있는 다른 두 가족이 있었다고 말함
- 과거 가자 전쟁에서는 human target 암살 뒤 폭격 피해 평가인 BDA 절차가 수행됐지만, 현재 전쟁에서 AI가 표시한 하급 무장대원 관련 공격에서는 시간을 아끼기 위해 이 절차가 폐지됐다고 소식통들은 말함
- 소식통들은 하급 Hamas·PIJ 의심 표적 공격에서 실제 민간인 사망자 수를 알지 못했고, 표적 본인이 사망했는지도 알지 못했다고 말함