펜타곤의 실리콘 밸리 문제

 (harpers.org)
1P by GN⁺ | ★ favorite | 댓글 1개
  • 미국과 이스라엘 국방·정보 조직은 AI와 실리콘 밸리 기술을 전쟁 판단의 돌파구로 내세우지만, 여러 사례는 기술적 확신이 현장 실패와 반복적으로 충돌했음을 보여줌
  • Shin Bet은 생성형 AI를 의사결정의 “공동 조종사”처럼 통합했다고 했지만, 2023년 10월 7일 Hamas 공격은 감시 영상·공개 훈련·내부 보고·사전 문서가 있었음에도 이스라엘 방위·정보 체계를 기습함
  • 미국 국방 분야의 Igloo White, Assault Breaker, Future Combat Systems, Secure Border Initiative Network는 컴퓨팅·센서로 전장을 통제하려 했지만 막대한 비용 뒤 실패하거나 취소됨
  • Pentagon은 AI에 소극적이라는 이미지와 달리 최소 686개 AI 프로젝트를 지원하고, 2022년에는 주요 기술 기업들에 최대 90억 달러 규모 Joint Warfighting Cloud Capability 계약을 부여함
  • Google, Amazon, Microsoft, Palantir, Anduril은 국방 시장에 깊이 들어갔지만 Project Maven, IVAS, Roadrunner, Palantir 사례는 군사용 AI가 윤리 논란, 성능 한계, 마케팅 과장, 환각 문제를 함께 안고 있음을 드러냄

AI가 놓친 10월 7일 공격

  • Shin Bet 국장 Ronen Bar는 Hamas 공격 3개월 전, 내부 보안기관이 ChatGPT와 유사한 생성형 AI 플랫폼을 개발해 “interdiction machine”에 자연스럽게 통합했다고 발표함
  • 이 시스템은 대상자의 이동, 친구, 가족, 활동, 발언, 게시물을 바탕으로 행동을 분석하고 위험을 예측해 경보를 올리도록 설계됨
  • 2023년 10월 7일 Hamas 공격은 Shin Bet과 이스라엘의 수십억 달러 규모 방위 체계를 완전히 기습함
    • Hamas는 국경 장벽과 이스라엘 정착지 모형을 대상으로 한 훈련을 공개적으로 수행함
    • Hamas 주도 무장단체들은 훈련 영상을 온라인에 올림
    • 국경 인근 이스라엘 주민들은 훈련을 관찰하고 경고했지만 무시됨
    • Gaza 국경 감시 카메라를 보던 이스라엘 징집병들은 장벽 돌파와 인질 납치 준비에 대한 상세 보고서를 냈지만 “상상 시나리오”로 기각됨
    • 이스라엘 정보기관은 공격 계획을 상세히 담은 Hamas 문서를 1년 넘게 보유하고 있었음
  • Hamas 구성원들은 이스라엘 정보 방식에 맞춰, 자신들이 알던 정보원을 통해 이스라엘이 듣고 싶어 하는 데이터를 흘림
    • Gaza 내 Hamas가 이스라엘 노동시장 접근을 통한 지역 경제 개선에 집중한다는 신호를 보냄
    • 이스라엘의 압도적 군사력 때문에 Hamas가 행동을 억제당했다는 인상을 줌
  • 이 실패는 AI가 “테러리스트에 대해 모든 것을 안다”는 식의 자신감과, 대상이 실제로 무엇을 생각하는지는 알지 못하는 한계를 대비시킴

국방 AI 낙관론과 Pentagon 현실

  • Michèle Flournoy는 Foreign Affairs에서 AI가 전장 방식, 위협 탐지, 무기체계 유지보수, 전략 결정 비용 추정에 변화를 줄 것이라고 봄
  • 기술 기업의 국방 진입을 막는 장애물로 Pentagon 관료제가 자주 지목되지만, Pentagon을 AI에 무관심한 조직으로 보기는 어려움
    • 최소 686개 AI 프로젝트에 자금을 댄 것으로 알려짐
    • 2022년 Joint Warfighting Cloud Capability 계약으로 주요 기술 기업들에 최대 90억 달러 규모 사업을 부여함
    • 한 Pentagon 관계자는 이 계약이 AI 솔루션을 “turbocharge”할 것이라고 함
  • Gamechanger는 Pentagon 직원들이 거대 조직이 실제로 무엇을 하고 돈이 어디로 가는지 찾도록 설계된 AI 프로젝트임
    • 2022년 초 Joint Artificial Intelligence Center 보도자료는 “28 Authoriative Sources”라고 표기된 출처를 언급함
    • 한 고위 Pentagon 회계 담당자는 예산 자료 전반에 대한 가시성과 이해를 높이는 데 Gamechanger를 적용하길 기대함
  • 그럼에도 Pentagon은 2023년에도 재무감사를 통과하지 못해 6년 연속 실패함
  • 기술 산업 인물이 군사 체계를 혁신한다는 서사는, 돈을 많이 쓰고 성능이 좋지 않은 무기와 패전으로 악명 높은 방위 시스템까지 근본적으로 개선될 수 있다는 신화로 이어짐

컴퓨팅으로 전장을 통제하려 한 반복된 실패

  • 미국 전쟁 수행에는 소프트웨어가 인간 갈등 문제를 해결할 수 있다는 믿음이 오래전부터 자리 잡고 있었음

  • Igloo White

    • 1967~1972년 미 공군은 동남아시아 정글의 Ho Chi Minh trail 주변에 대규모 센서를 배치함
    • 이 작전은 발소리, 소변의 암모니아 냄새, 엔진 점화 전자 신호로 인간 활동을 탐지하고, 태국 비밀 기지의 IBM 컴퓨터로 정보를 보내 보급로를 파악하려 함
    • 비용은 매년 최소 수억 달러였지만 완전한 실패로 끝남
    • 베트남군은 길 밖 나무에 소변 양동이를 걸거나, 사용하지 않는 길로 가축을 몰아 컴퓨터가 적 이동으로 처리하게 함
    • 1972년 북베트남군은 수백 대의 전차를 동원한 공세를 펼쳤지만 Igloo White는 이를 전혀 탐지하지 못했고 작전은 곧 폐기됨

  • Assault Breaker와 이후 사업

    • 베트남 철수 뒤 미국은 동유럽의 소련 후방을 공중 레이더로 들여다보는 Assault Breaker에 거액을 투입함
    • 이 시스템은 시험에서 전차와 자동차, 바람에 흔들리는 나무를 구분하지 못했고 다음 10년대에 취소됨
    • Future Combat Systems는 센서와 무기를 고성능 프로세서로 연결해 방어 장갑이 필요 없을 정도로 목표를 쉽게 타격할 수 있다는 구상을 내세웠지만, 거의 200억 달러를 쓰고 성과 없이 끝남
    • Department of Homeland Security의 Secure Border Initiative Network는 레이더, 카메라, 감시 센서를 연결한 “가상 장벽”으로 홍보됐지만 2011년 취소됨
    • Boeing은 Future Combat Systems와 Secure Border Initiative Network의 주요 계약자였고, 이런 실패는 실리콘 밸리식 빠른 혁신이 기존 방산업체 실패를 대체할 수 있다는 기대와 대비됨

Silicon Valley와 군산복합체의 재결합

  • 실리콘 밸리 산업은 Pentagon 후원 아래 성장한 전자산업과 깊게 연결되어 있음
    • 현대 컴퓨터의 핵심인 집적회로는 1958년 Texas Instruments가 처음 생산했고, 방위 예산이 개발을 밀어줌
    • 초기 적용처는 Minuteman II 대륙간 핵미사일 유도 시스템이었음
  • Apple Computer는 1980년 12월 상장 한 달도 안 돼 Ford보다 높은 가치를 인정받았고, Macintosh는 개인에게 기업 수준의 컴퓨터 파워를 준다는 해방적 이미지로 소개됨
  • 방위와의 결별은 완전하지 않았음
    • 인터넷은 Pentagon의 Advanced Research Projects Agency가 개발한 ARPANET에서 나옴
    • Google 창업자 Larry Page와 Sergey Brin의 Stanford 초기 연구는 DARPA가 된 같은 Pentagon 기관의 자금 지원을 일부 받음
    • Google Earth는 CIA의 벤처캐피털 조직 In-Q-Tel이 일부 자금을 댄 Keyhole EarthViewer에서 출발했고, 이후 Google이 인수함
  • Peter Thiel은 PayPal 공동창업과 Facebook 초기 투자로 부를 쌓은 뒤, 군산복합체를 실리콘 밸리로 되돌리려는 방향을 취함
  • Palantir는 2003년 설립되어 PayPal의 사기 탐지 기술 기반으로 데이터 패턴을 시각적으로 탐지·전달하는 소프트웨어를 제공함
    • CIA는 In-Q-Tel을 통해 초기 투자자였음
    • 초기 계약 다수는 정보기관에서 나온 것으로 알려짐
    • GhostNet과 Osama bin Laden 은신처 탐지에 큰 역할을 했다는 주장이 있었지만, 이를 뒷받침하는 증거는 없음
    • Palantir는 고위 군 관계자의 반대 속에서도 중간급 Army 장교와 협력 의원들을 통해 기술을 홍보함

국방 혁신 조직과 Project Maven

  • Robert O. Work는 미국이 핵무기와 정밀유도무기에서 누렸던 기술 우위를 잃고 있으며, 중국과 러시아가 따라잡았다고 경고함
  • 2014년 Chuck Hagel 국방장관은 Work가 감독하는 Defense Innovation Initiative를 공개하며, 국방부 전통 영역 밖의 기업과 학계 제안을 적극 찾겠다고 함
  • Ash Carter는 기술 지역을 반복 방문했고, 2015년 Google과 Apple 본사 근처 Mountain View에 Defense Innovation Unit Experimental을 세움
    • 이후 “Experimental”은 이름에서 빠짐
    • Department of Homeland Security도 근처에 위성 사무소를 세워 Silicon Valley 기술 기업과 관계를 키우려 함
  • 2016년 Carter는 Eric Schmidt가 이끄는 Defense Innovation Advisory Board를 만들었고, Schmidt는 이후 National Security Commission on Artificial Intelligence를 이끌었으며 Work가 부위원장을 맡음
  • Project Maven은 Work가 만든 사업으로, Pentagon의 빅데이터와 기계학습 통합을 가속하는 것이 목표였음
    • 2017년 Google은 드론 영상의 끊임없는 흐름을 처리해 목표를 식별하는 도구 개발 계약을 확보함
    • Gizmodo에 유출된 내부 이메일에 따르면 Google 참여는 회사 허락 없이 공개하지 않기로 되어 있었음
    • Google Cloud의 AI 수석 과학자 Fei-Fei Li는 “AI” 언급이나 암시를 피하라고 이메일을 보냄
    • 계약이 알려지자 Google 직원 약 4,000명이 Google이나 계약업체가 전쟁 기술을 만들지 않겠다는 명확한 정책을 요구하는 청원에 서명했고, 일부는 사임함

Maven 이후 드러난 성능 한계와 하청 이동

  • Project Maven의 영상 입력원은 Reaper 드론에 장착된 카메라 포드 시스템 Gorgon Stare였음
  • Gorgon Stare는 모든 것을 볼 수 있다는 식으로 홍보됐지만, Eglin Air Force Base 시험 부대의 2011년 보고서는 여러 결함을 지적함
    • 카메라는 목표를 쉽게 찾고 식별하지 못함
    • 전송률이 너무 느림
    • 시험 부대는 “작전상 효과적이지 않다”고 결론 내리고 Afghanistan 배치를 하지 말라고 했지만, 공군은 배치함
  • 한 전직 전투기 조종사이자 Pentagon 분석가는 자동 표적 인식(ATR)이 수년간의 비용 투입 뒤에도 작동하지 않는다고 말함
  • Pentagon 기관에서 관련 문제를 다루는 또 다른 전투 참전자는 AI 개발자들이 군사용 요구사항 일부를 이해하지 못하는 것 같다고 봄
    • DARPA 실험에서 Marines 분대는 AI가 제어하는 로봇의 탐지를 피하기 위해 신체 실루엣을 바꿈
    • 두 명은 큰 판지 상자 안에 들어가 이동했고, 다른 인원은 공중제비를 넘었으며, 한 명은 전나무 가지를 착용함
    • 모두 열린 지면을 지나 로봇에 접근해 감지되지 않고 접촉함
  • Google이 Maven에서 철수한 뒤 Microsoft, Amazon, Palantir 등이 하청을 이어받음
    • 이 사실은 Google을 떠난 Jack Poulson이 찾아냄
    • Poulson은 이후 Tech Inquiry를 시작해 Defense Innovation Unit 계약과 관련 조직을 추적함

클라우드 계약과 사라지는 기술-국방 간극

  • Google의 Maven 철수는 방위기술 진영에서 강한 반발을 불렀음
    • Peter Thiel은 Google의 태도를 “반역적”이라고 불렀음
    • Eric Schmidt는 그 결정에 동의하지 않는다고 함
    • Jeff Bezos는 대형 기술 기업들이 Department of Defense에 등을 돌리면 미국이 곤란해질 것이라고 말함
  • Amazon은 2013년 CIA로부터 6억 달러, 10년 계약을 따내며 AWS 클라우드를 정보기관 용도로 제공함
  • 클라우드 컴퓨팅은 Amazon, Microsoft, Oracle, Google 같은 기업의 새로운 수익 전선이 됨
  • Google은 Maven 논란 당시의 도덕적 우려를 뒤로하고, 최대 90억 달러 규모 Joint Warfighting Cloud Capability 계약 지분을 따기 위해 입찰함
  • 기업들은 상업 서비스에서 큰 이익을 내면서도 정부를 안정적이고 풍부한 매출원으로 보기 시작했고, 기술 산업과 Pentagon 사이의 간극은 빠르게 사라짐

Anduril, Roadrunner, IVAS

  • Ukraine 전쟁에서 드론 영향이 크게 다뤄졌지만, 양측에서 흔하고 효과적인 드론 다수는 Amazon 계정으로 구할 수 있는 부품을 조립해 소형 폭탄이나 포탄을 실은 단순하고 저렴한 장치에 가까움
  • Anduril은 2023년 12월 Roadrunner를 공개함
    • 소형 제트 추진 드론으로, 드론을 포함한 제트 추진 위협을 자율 탐지·파괴한 뒤 기지로 돌아올 수 있다고 함
    • Newsweek에 따르면 가격은 “수십만 달러 초반” 수준임
    • 공개 영상은 Roadrunner가 시험을 완벽히 수행하는 장면을 담음
  • Pentagon 분석가 Franklin “Chuck” Spinney는 Roadrunner 홍보를 “마케팅 헛소리”라고 평가하며, 사막에 꼬리부터 착륙하는 장면에서 배기구가 먼지 기둥을 거의 만들지 않는 점을 의아해함
  • Anduril은 Palmer Luckey가 만든 회사이며, Luckey는 Oculus를 개발해 Facebook에 30억 달러에 매각한 뒤 국방 분야에 집중함
    • Anduril은 AI 기반 센서 융합 플랫폼으로 넓은 지역의 완벽한 3D 모델을 만들겠다고 함
    • Luckey는 미래 병사가 작전 지역에서 모든 적, 아군, 자산 위치를 아는 “완벽한 전지성”을 갖는 “슈퍼히어로”가 될 것이라고 예측함
  • Army는 HoloLens 기반 Integrated Visual Augmentation System(IVAS) 에 2021년 Microsoft와 219억 달러 계약을 맺음
    • 2023년 Pentagon 운용시험평가국 보고서는 시험 병사 다수가 방향감각 상실, 어지럼, 눈의 피로, 두통, 멀미, 메스꺼움, 목 부담, 터널 시야 등 신체 손상을 하나 이상 보고했다고 밝힘
    • 병사들은 저조도 성능, 표시 품질, 거추장스러움, 낮은 신뢰성, 피아 식별 불가, 사격 어려움, 신체 손상, 제한된 주변시야도 문제로 꼽음
    • Congress는 조달 예산 대부분을 보류했지만 Army는 Microsoft에 시스템 수정을 위해 1억 2,500만 달러를 추가 지급했고, 전체 가격표는 230억 달러 바로 아래까지 올라감
    • Army는 수정된 시스템에 대한 자체 시험에서 병사 피드백이 긍정적이었다고 주장함

AI 붐, Palantir, 그리고 환각

  • ChatGPT 공개 이후 Microsoft는 더 큰 기회를 보게 됐지만, AI 능력에 대한 회의도 함께 존재함
  • Meta의 AI 수석 과학자 Yann LeCun은 초지능 기계 위협에 대한 경고가, 고양이 수준의 학습 능력에 견줄 시스템 설계조차 없는 현재로서는 매우 이르다고 봄
  • Orso Partners 공동창업자 Nate Koppikar는 2016년 이후 기술 업계 상황을 “헛소리”에 가깝다고 평가함
    • 기술 부문은 2021년 말 터진 거품 뒤 돈을 잃고 인력을 줄였음
    • 업계 투자자 손실은 약 7.4조 달러로 제시됨
    • 그는 AI가 “다음 큰 것”이라는 약속이 갑자기 팔리고 있다고 말함
    • AI 로봇 공포는 기술의 위력을 믿게 하는 마케팅 캠페인의 일부라고 봄
    • AI에는 만들어내기 성향, 즉 업계에서 “환각”이라 부르는 결함이 있음
  • Palantir는 2023년 AI 열풍 속에서 주가가 급등했으며, CEO Alex Karp는 Palantir가 “Israel과 함께한다”고 공개적으로 말함
  • Google Bard는 Palantir가 2019년 IDF와 AI 도구 개발 파트너십을 발표했다며 전문적인 보도자료 형태의 답을 내놓았지만, 해당 보도자료는 존재하지 않는 환각이었음

함께 보면 좋은 글 β

GN⁺   [-]
Hacker News 의견들

  • 기사 속 예시는 꽤 체리픽된 것으로 보임. 베트남에서의 실패를 IBM 360 하나 탓으로 돌리긴 어렵고, Hamas 공격은 Israel을 놀라게 했을 수 있지만 Iron Dome은 최근 몇 년간 잘 작동한 기술이었음
    미국은 듣고 싶어 한 누구에게나 Russia가 Ukraine를 공격할 것이라고 경고했고, 원자폭탄을 만든 것도 꽤 이론적인 물리학자들이었음

    • 누구든 경고가 필요했다는 사실 자체가 우스운 일임. Russia가 올림픽 직전이나 직후에 Ukraine로 들어가기로 마음먹었다는 건 너무 명백했음
      재미로 해군 상당수를 Europe을 돌아 Black Sea까지 보내지는 않음. 국경 근처 집결지로 혈액 보급품을 보내는 것도 단순 훈련이나 무력시위라면 절대 하지 않을 일임
    • 조직은 흔히 스스로를 속이며 실패함. 그중 하나가 움직임을 진전으로 착각하는 것임
      글의 핵심은 Pentagon이 기술에 돈을 대고 있다고 생각하지만, 그 돈만큼의 가치를 얻지 못한다는 데 있음. 전문성, 권한, 책임을 한 사람의 머릿속에서 결합할 의지나 능력이 없기 때문에 실패함
      조직이 책임을 분산시키거나, 움직임과 진전을 구분하지 못하는 사람에게 권한을 주면 결과는 늘 낭비와 정체로 이어짐. 강한 리더가 조직의 이런 엔트로피를 잠시 되돌리는 드문 순간에는 마법 같은 일이 벌어지며, ULA와 SpaceX, DeepMind와 OpenAI를 비교해볼 만함
      제도적 역량이 불안정하고 짧은 기적이 아니라 표준이었다면 인류는 훨씬 더 높은 기술 단계에 올라 있었을 것임
    • 많은 실패는 그냥 인간적이고 정치적인 실패임. 기술이 명백한 것을 흐리거나 가능성이 낮은 것을 부각할 수는 있지만, 아직은 그렇게 흔히 결정적이지 않음
      미국은 Moscow 공격에 대해서도 Russia에 경고했지만, 정치적 개입으로 취급됐음. 거의 확실히 무시된 신호정보였을 것임
      https://apnews.com/article/russia-intelligence-duty-to-warn-...
    • 2022년 2월 21일에 Ukrainian 모델과 같이 있었고 침공 가능성을 말했는데, 그 사람은 굉장히 대수롭지 않게 반응했음. 그게 대처 방식인지, 진짜 믿음인지, 반론을 위한 반론인지, 문화적 반응 방식인지 헷갈려서 의아했음
      내게는 국경 병력 집결, 여러 발언, Biden의 말, 근거 없이 정치화하던 Republican들을 보면 공매도나 예측시장 수준으로 너무 명백한 침공이었음. 만기 0일 옵션 계약처럼 뻔했음
      그런데도 그 반응이 계속 생각남. 앞으로 어떻게 대응해야 할지 모르겠음. 서로 다른 현실 인식을 가진 사람과 논의하는 게 무의미해 보이고, 결국 완전한 무행동이나 금융 베팅만 남는 느낌임
      믿는 바에 베팅하는 건 보상도 괜찮고, 예측이 빗나가도 괜찮아서 좋아함. 그래도 현실에 대한 공유된 이해를 찾는 대화가 더 자연스러운데, 요즘은 그게 무의미해 보임
    • “공중 및 해상 무인 시스템을 채택해야 위험을 막을 수 있다”는 말은 최근 사건들을 보면 실제로 정확했음

  • 이 글은 이 분야에 대한 많은 언론 보도처럼 인공지능을 지나치게 일반화한다고 봄. 기계학습의 예측적 측면은 현대 군대에서 수십 년간 쓰여 왔고, 첫 문단은 10월 7일 공격 정보 실패에서 LLM이 큰 비중을 차지한 것처럼 대충 암시함
    LLM이 많은 기계학습을 포함한 시스템의 일부라는 건 놀랍지 않음. 훌륭한 인간 인터페이스이기 때문임. 하지만 공격을 놓친 책임을 유의미하게 질 만큼 큰 역할을 했다고는 전혀 믿지 않음
    기계학습은 계속 역할을 할 것이고, 성공과 실패를 모두 겪을 것이며, 적대적 기계학습과 경쟁할수록 더 불완전해질 것임. 불완전한 도구를 피할 수 없는 실패의 원인으로 탓하는 건 유용하지 않고, 대안이 더 실패하기 쉬운 인간이라는 점을 생각하면 “문제”라고 보기도 어렵다

    • 계속되는 혼란의 일부는 업계가 LLM을 인공지능이라고 부르는 데 완전히 올라탔기 때문이라고 봄
      AI라는 표현은 우리가 인정하는 것보다 훨씬 더 무게가 있고, LLM에 그 용어를 쓰면 의미가 가벼워짐
      보통 사람은 AI라고 들으면, 아무리 영리하고 인상적이어도 인간의 글을 예측하고 모방하려는 알고리즘보다 훨씬 많은 것을 기대함
      업계는 다음 세대 기계학습 알고리즘을 “인공지능”이라고 부르기로 합의한 듯한데, 더 잘 팔리고 훨씬 많은 자금을 끌어오기 때문임. 그렇다면 실제 AI를 만들기 전에 물어야 할 안전, 도덕, 윤리 질문들은 어떻게 되는지 걱정됨
    • 다만 그 도구들에 대해 내세웠던 과도하게 거창한 주장을 비판하는 건 확실히 유용한 일임

  • “AI 시스템은 Hamas에 대해 모든 것을 안다. 그들이 말한 것, 게시한 것 […] 행동을 분석하고, 위험을 예측하고, 경보를 올린다.”
    “이를 잘 알고 있던 Hamas 구성원들은 적이 듣고 싶어 하는 데이터를 먹였다. 결국 AI 시스템은 테러리스트에 대해 모든 것을 알았지만, 그가 무슨 생각을 하는지는 몰랐다.”
    상대가 내가 하는 모든 일을 보고 내가 하는 모든 말을 들을 수 있다면 유일한 방어는 프라이버시임. 소설 The Three Body Problem에서는 이를 극단까지 밀어붙여, 유일한 프라이버시는 인간의 마음속뿐이고 일부 사람에게만 절대 말로 꺼내지 않은 전략에 따라 결정을 내리게 함. 과학소설이 현실이 된 셈임

    • 그건 속편인 The Dark Forest에 나온 내용임

  • 가장 중요한 교훈은 명확한 사용 사례 없이는 좋은 시스템을 설계하기가 거의 불가능하다는 것이라고 봄
    Ukraine에는 그런 사용 사례가 있고, 해결하려는 동기도 매우 강함. Ukrainians는 범용 컴퓨터로 전장을 통제하고 있음 https://en.defence-ua.com/news/how_the_kropyva_combat_contro... 장거리 해상 드론으로 여러 Russian 군함을 침몰시켰고 https://www.bbc.com/news/world-europe-68528761 최근에는 온보드 컴퓨터 비전 기반 표적 인식을 갖춘 저가 비행 드론을 대규모로 시험하기 시작했음 https://www.forbes.com/sites/davidhambling/2024/03/21/ukrain...
    반면 미국은 평시임. 그 자체로는 좋은 일이지만, PowerPoint에서는 멋져 보이지만 실제로는 쓸모없는 기술 개발에 수십억 달러를 낭비하기 너무 쉬워짐

    • 이게 단연 가장 중요한 교훈임. 참고로 비군사용 소프트웨어 개발에도 그대로 적용됨
    • Ukrainians는 전장에서 시제품을 시험하고, 안 되는 설계는 꽤 일찍 버리는 듯함. 자동 추적 기관총 시제품도 봤는데 Aliens 2가 떠올랐음
      비행 드론 설계도 한 회사가 Russian 미사일 공격으로 파괴되는 위험을 피하려고 여러 회사가 만들고 있음. 다른 군수 제품도 비슷할 것이라고 봄
    • 전시에는 요구사항과 효과를 훨씬 쉽게 파악할 수 있어서 무기 개발이 늘 더 쉽지만, 더 싼 것은 아님
      여전히 수십억 달러는 낭비되겠지만, 그 돈은 전쟁으로 파괴된 건물, 다리, 기반시설, 삶을 재건하는 데 쓰이게 됨
      Ukraine는 값싸고 자력으로 묶어낸 기술로 놀라운 일을 해냈지만, 그 대가는 국가 재건에 필요한 4,860억 달러임
      https://www.reuters.com/world/europe/ukraine-needs-486-bln-r...
    • 미국이 평시라는 개념은, WWII 이후 매우 큰 상비군을 유지하기로 결정했다는 점 때문에 늘 이해하기 어려웠음
      임박한 전쟁에 대비하는 것과 평시라는 상태 사이의 선을 실제로 어디에 그어야 하는지 모르겠음
    • 지금 Ukraine에서 실제로 사용되는 걸 보고 있고, 작동하고 있음
      폐기될 예정이던 WW3급 분량의 집속탄이 AFU에 넘어갔고, 낡은 Bradley, Javelin, Stinger 등은 T-72와 Hind-D를 터뜨리도록 설계됐는데 실제로 그렇게 하고 있음. “PowerPoint에서 멋져 보이는” 것들이 무엇을 할 수 있는지도 곧 보게 될 것임
      그리고 Ukraine 군사 효율의 상당 부분은 NATO 정보 공유 덕분임. 전투 통제 시스템과 해상 드론은 NATO가 Russian 전자전, 함정, 병력 이동을 매핑해주지 않았다면 부차적인 장면에 그쳤을 것임

  • Israeli 기술에 대해서는 말할 수 없지만, Pentagon은 Silicon Valley에서 이미지 문제가 있고 Palantir 같은 계약 회사조차 최고의 인재를 얻고 있다고는 믿기 어려움
    우리 세대는 WW2보다 Iraq와 Vietnam에 더 가깝고, 뛰어난 인재 중에는 1세대 이민자도 많음. 광고 기술도 최근 이미지가 나빠졌지만, 여전히 국방보다 대형 소비자 회사에서 일하는 쪽이 더 매력적임
    동료들이 미국 정부를 위해, 심지어 간접적으로 일하게 하려면 더 많은 돈을 줘야 할 텐데 보통은 더 적고, 근무 외 시간에 할 수 있는 일의 자유도도 낮은 경우가 많음
    게다가 AI로 군과 계약하면 어느 정도 희생양 보험 역할을 하는 것처럼 읽힘. 속일 수 있는 컴퓨터를 든 머리 좋은 사람들을 탓하고, 그들을 고용하고 그 신호를 다른 신호보다 우선해 행동한 사람들은 탓하지 않는 식임
    ChatGPT 모델이 10/7을 막는 결정적 요인이 될 수 있었다는 생각은 이 업계에서 일하는 사람이라면 터무니없게 보일 것임. 아마 IDF에 LLM을 팔려는 컨설턴트만 예외일 수 있음

    • 분기 영업 KPI를 맞추기 위해 7~8자리 총계약가치의 연방정부 계약을 따야 할 때는 그 이미지 문제가 사라짐
      더 큰 걸림돌은 조달임. 연방 기준에서 소프트웨어 조달은 비교적 단순해서 Series E 이후 스타트업이라면 FedRAMP와 FIPS 준수를 위한 전용 로드맵에 700만~1,000만 달러와 1~1.5년을 쓰면 진입 가능함
      소프트웨어 밖으로 나가면 조달은 서류 지옥이 됨. DoD와 DoE 같은 R&D 보조금 기관의 서류 지옥까지 더해지면 준소련식 조달 체계가 됨
      아이러니하게도 이런 준수와 규제 점검 대부분은 부패와 뇌물을 줄이려는 선의로 추가됐지만, 사실상 전체 시스템을 막아버렸고 스타트업과 혁신가가 국방 커뮤니티와 직접 일하지 못하게 만듦
      DIUx와 In-Q-Tel 같은 프로젝트가 바꾸려 하지만 너무 적고 너무 늦었으며, 방산 기반은 Microsoft, Cisco, CrowdStrike, Zscaler 같은 회사가 유망 스타트업을 인수해 내부적으로 혁신을 전파하는 데 전적으로 의존하고 있음
    • 정부에서 더 낮은 보수를 받아도 일할 의향이 있는 기술자들도, Uncle Sam이 세워둔 채용 수렁을 통과하지 못하는 문제가 있음
      연방정부는 업계 인재를 빠르게 확보하도록 설계되어 있지 않음. 고위직에 고급 학위를 요구하는 오래된 규칙에도 여전히 매우 얽매여 있음
    • 마지막으로 확인했을 때는 많은 방산 회사가 원격근무 기회도 제공하지 않는 것 같았음
    • 기술 노동자들이 “면접 보러 가는 길에 대마초를 피우고” 싶어 하는 것도 큰 문제 중 하나임. 그러면 보안인가를 받을 자격이 없어짐
    • 일부러 그냥 일어나게 둔 것이 아니라고 100% 확신하진 못하겠음. 완전히 밀어버릴 구실을 얻기 위해서였고, 실제로 그렇게 하고 있으며, 규모에만 놀랐을 가능성도 있다고 봄
      신호는 사방에 있었고 Mossad가 무능한 서류 처리 집단은 아님
      책임자는 전직 특수부대 출신이고, 눈 하나 깜짝하지 않고 사람을 죽이는 것도 그 일의 일부이니 그쪽에서 인도주의를 기대하긴 어려움
      다른 시대와 장소에서 거의 똑같이 전개된 이야기들을 읽지 않았다면 다르게 봤을지도 모름. AI는 정치적 문제를 해결하지 못하고, 이미 복잡한 문제를 더 복잡하게 만들 뿐임

  • “기습당했다”는 표현은 이상함. Israeli 언론은 최전선 분석가들이 경고했지만 무시됐다는 기사를 반복해서 냈음
    그 이유가 성차별, 나이 차별, 징집병에 대한 차별일 수도 있고, 정착민 조직이 정부에 자기 사람들을 두고 Gaza Strip 재정착을 강하게 원했기 때문일 수도 있음
    어느 쪽이든 신호는 있었고, 그들은 약 1년 동안 준비와 훈련을 지켜보고 있었음. 저항 조직들이 그걸 비밀로 유지했다 해도, 정보기관이나 군의 평범한 장교라면 “제1원리”와 그들의 행동만 보고도 결국 폭력적 반응이 있을 것이라고 결론낼 수 있어야 했음

    • 외부 관찰자로서 잘 아는 편은 아니지만, Netanyahu의 점점 극단적인 정치 행보가 만든 정부 혼란과 Israeli 사회 내부의 거대한 분열이 10월 7일 방어 실패에 기여했을 것 같음
      Netanyahu가 Israeli 사회를 너무 갈라놓아서 10/7 전 몇 달 동안 매주 주말 수백만 명이 시위했고, 예비군들도 항의의 뜻으로 복무를 거부했음
      감옥에 가지 않기 위해 어떤 수단이든 쓰는 데 집중하기보다 통치에 더 집중하거나 물러났다면, 국가 차원의 산만함이 줄었을지도 모름. 그의 잘못이라고 단정하진 않지만, 그가 만든 혼란이 도움이 됐을 리는 없음
    • 폭력적 반응은 예상됐음. 예상하지 못한 것은 유능한 폭력적 반응이었음
    • IDF를 직접 아는 사람이라면 조직 안에 깊이 박힌 오만이 있다는 걸 알 것임
    • 이건 잘못된 도구를 탓하는 일임
      Israeli 정부와 군을 운영하는 사람들이 도구 같은 존재였음. 악의였든 무능과 무지였든, 그들은 명백히 실패했음

  • 개인적으로 기사 전체에서 가장 흥미로운 부분은 이 대목임
    “그는 이후 국방 업무에 집중하며, 미래의 무기를 만들 관련 기술 역량을 가진 사람들이 ‘대체로 국방 부문과 일하기를 거부하고 있다’고 한탄했다.”
    아직도 어느 정도 사실인지 궁금함. 돈이 많이 흘러드는 건 분명하고, 일부는 확실히 돈을 따라갔음. Palantir도 존재하니까

    • 기술자들이 그 무기가 남긴 결과를 보지 못했거나, 자신들이 실제로 무엇을 만드는지 대체로 몰랐던 때에는 국방 쪽으로 끌어들이기가 더 쉬웠음. Manhattan Project 같은 식임
      하지만 사람들이 Twitter에서 어떤 동네가 폭격당하는 장면을 생중계로 볼 수 있다면, 그런 일을 돕는 데 대해 다시 생각하게 될 수 있음
    • 어느 정도는 분명히 사실임. 개인적으로 큰 대가를 치르면서도 국방 부문과 일하기를 거부한 기록된 사례들이 있음
      중요한 질문은 노동력 안에 저항이 얼마나 있는지, 그리고 그것이 인재 채용 능력에 얼마나 영향을 주는지임
    • 미국 방산업계를 싫어하는 기술자들이 생각하는 것보다는 훨씬 덜 사실일 것 같음. 진보적 견해와 문제 해결 지능의 상관관계는 0은 아니지만 그렇게 높지도 않음

  • 낭비된 세금 규모에 충격받음. 실패한 프로젝트가 너무 많아서, 악명 높은 Big Tech의 무능도 미국 군산복합체에 비하면 아무것도 아닌 것처럼 보임
    지난 3/4세기 동안 서구 문명의 잉여가 다 여기로 흘러갔던 것임. 이제 잉여는 사라졌고, 핵심 자원과 에너지원이 고갈되면서 곧 음수로 돌아설 것임. 미국의 세계 지배가 가능한 한 빨리 끝나길 바람
    미안하지만 어느 시점에서도 미국은 지구의 정당한 통치자였던 적이 없음. 내 나라들 전체가 파괴됐고, 전체 인구가 죽거나 이주를 강요당했음. 당신이 아이에게 새 Xbox를 사주고, 이웃이 새 요트를 살 수 있게 하려고 그렇게 된 것임

    • 오히려 기사 속 숫자는 낭비 규모를 과소평가함
      2003년 이후 중동의 재앙은 최소 8조 달러를 들였음
      그 돈이면 미국 전체를 청정에너지로 전환하고, 지구상의 모든 굶주린 사람을 먹이고, 모든 미국 노숙자에게 집을 제공할 수 있었음. 돈이 남았을 것임
      대신 그 돈은 수백만 명을 죽이고, 수천만 명을 이주시켰으며, 여러 세대의 아이들에게 암과 선천적 결함을 남기는 데 쓰였음
      너무나 악하고 멍청해서 Noam Chomsky조차 이를 표현할 단어가 없다고 할 정도임
    • 공정하게 보자면 미국은 247년 정도 된 나라 아닌가. 큰 역사적 관점에서는 유아에 가까움. 건국자들도 이 체제가 오래갈 것이라고 크게 확신하지 않았음
      [1]:https://www.digitalhistory.uh.edu/disp_textbook.cfm?smtID=2&...
      “헌법회의가 끝날 때 George Washington은 ‘나는 헌법이 20년 이상 지속될 것이라고 기대하지 않는다’고 말했다. 오늘날 미국은 세계에서 가장 오래된 성문헌법을 가지고 있다.”
      나라가 그동안 이룬 것은 꽤 대단한 편임. 존재 기간의 상당 부분 동안 미국은 오늘날 우리가 아는 그런 초강대국도 아니었음. 미래는 정해져 있지 않지만, 아마 내부 문제만 돌보는 고립된 미국을 보게 될 수도 있음

  • Strategic Defense Initiative, 일명 Star Wars에 대한 언급을 찾고 있었음. 그 프로그램이 끝내 극복하지 못한 기술 문제 중 하나는 들어오는 미사일을 충분히 인식하고 요격 방어를 표적으로 유도하는 능력이었음
    기사에 나온 Igloo White와 Assault Breaker 시스템처럼, 미끼와 진짜를 구분하는 데 실패했음

    • 이건 사실과 다름. 미사일 인식과 요격 유도는 둘 다 수십 년 전에 입증된 능력이었음
      탄도미사일 요격에서 가장 큰 기술 문제는 새로 쓰려던 극초음속 로켓 모터가 유도 명령에 충분한 정밀도로 반응하게 만드는 것이었음. 재료과학 문제였고, 같은 장비를 일반 로켓 모터에 달면 실제로 잘 작동했음
답변달기