GN⁺: 펜타곤의 실리콘 밸리 문제

실리콘 밸리의 펜타곤 문제

• 이스라엘 내부 보안 서비스인 신 베트의 론 바르 국장이 자체 개발한 인공지능 플랫폼을 발표함.
• 이 기술은 테러리스트에 대한 정보를 분석하고 위험을 예측하여 경보를 발생시키는 데 사용됨.
• 하마스의 공격은 이스라엘의 방위 시스템을 완전히 놀라게 했으며, 이는 하마스가 준비를 공개적으로 수행했음에도 불구하고 발생함.

미래 전쟁에서 뒤처지는 빅테크

• 미셸 플루노이는 실리콘 밸리와 미국 정부 간의 연결의 중요성을 강조함.
• 펜타곤은 새로운 기술에 저항적이라는 인식이 있지만, 실제로는 다수의 AI 프로젝트에 투자하고 있음.
• AI 기술은 군사 작전 방식에 영향을 미칠 수 있지만, 기술 산업의 이상주의자들이 군사 기계를 혁신하고 있다는 신화를 조장함.

소프트웨어가 인간 갈등을 해결할 수 있다는 믿음

• 미국의 전쟁 수행에서 소프트웨어의 역할은 오랜 역사를 가지고 있음.
• 베트남 전쟁 당시 Igloo White 작전은 적의 활동을 감지하기 위해 센서를 배치했지만 실패함.
• 실리콘 밸리는 제2차 세계대전 승리에 기여한 전자 산업에서 발전했으며, 냉전 기간 동안 펜타곤의 후원을 받음.

실리콘 밸리와 펜타곤의 관계

• 실리콘 밸리의 기술 산업은 원래 방위 산업과 밀접한 관계를 가졌으며, 인터넷은 펜타곤의 ARPANET에서 발전함.
• 피터 틸은 실리콘 밸리를 군사 산업 복합체로 되돌리려는 목표를 가지고 있음.
• 펜타곤은 실리콘 밸리의 기술을 활용하여 미국의 기술적 우위를 유지하려고 노력함.

실리콘 밸리의 방위 기술

• 실리콘 밸리의 기업들은 국방 분야에서 활동을 확대하고 있으며, 이는 기존의 군사 산업 복합체에 새로운 플레이어를 추가함.
• 구글은 프로젝트 메이븐을 통해 드론 영상 처리를 위한 기술을 개발했지만, 직원들의 반대로 이 프로젝트에서 철수함.
• 실리콘 밸리의 기업들은 국방 분야에서의 역할을 확대하고 있으며, 이는 국방 예산의 안정적인 수익원으로 보임.

GN⁺의 의견

• 이 기사는 국방 기술과 인공지능의 발전이 실제 군사 작전에 어떻게 적용되고 있는지에 대한 흥미로운 통찰을 제공함.
• AI 기술이 실제 전장에서의 복잡성을 완전히 이해하고 대응할 수 있는지에 대한 의문을 제기함.
• 기술 산업과 국방 분야의 협력이 국가 안보에 어떤 영향을 미칠지에 대한 중요한 논의를 촉발함.
• 이 기사는 실리콘 밸리의 기업들이 국방 분야에 더 깊이 관여함으로써 발생할 수 있는 윤리적 문제를 강조함.
• 기술의 발전이 항상 군사적 성공으로 이어지지는 않는다는 점을 상기시키며, 과거의 실패한 프로젝트들을 예로 들어 이를 뒷받침함.

[neo]

Hacker News 의견

• 기사에서 언급된 사례들은 선택적으로 골라진 것 같음. 베트남에서의 실패를 IBM 360 컴퓨터 탓으로만 돌릴 수는 없음. 하마스의 공격은 이스라엘을 놀라게 했을지 몰라도, 최근 몇 년간 아이언 돔은 잘 작동해왔음. 미국은 러시아의 우크라이나 공격을 경고했지만, 많은 사람들이 듣지 않았음. 그리고 원자폭탄을 만든 것은 이론 물리학자들이었음.
• 많은 미디어가 그렇듯 이 기사도 인공지능을 너무 일반화하여 설명함. 기계학습(ML)의 예측 기능은 수십 년 동안 현대 군대에서 사용되어 왔음. 기사의 서두는 LLM이 10월 7일 공격의 정보 실패에 큰 역할을 했다고 암시하지만, 실제로는 그렇지 않음. ML은 계속해서 역할을 하고, 성공과 실패를 반복하며, 적대적 ML에 대항하면서 더욱 불완전해질 것임. 불완전한 도구를 탓하는 것은 유용하지 않음.
• 인공지능 시스템은 하마스에 대해 모든 것을 알고 있었지만, 하마스 구성원들은 AI가 듣고 싶어하는 데이터를 제공함. 상대방이 모든 행동과 말을 볼 수 있을 때 유일한 방어는 프라이버시임. 소설 "삼체 문제"에서는 인간의 마음 속에만 프라이버시가 존재하고, 그들만이 결코 말로 하지 않은 전략에 기반한 결정을 내릴 수 있음. 과학 소설이 현실이 됨.
• 명확한 사용 사례 없이 좋은 시스템을 설계하는 것은 거의 불가능함. 우크라이나는 이러한 사용 사례를 가지고 있으며, 이를 해결하려는 높은 동기를 가짐. 우크라이나는 일반 컴퓨터로 전장을 통제하고, 장거리 해상 드론으로 여러 러시아 전함을 격침시킴. 최근에는 컴퓨터 비전 기반의 목표 인식을 탑재한 저가의 비행 드론을 대규모로 테스트하기 시작함. 그러나 미국은 평화 상태이며, 이는 자체적으로 좋은 일이지만, 실제로는 무용한 기술에 수십억 달러를 낭비하기 쉬움.
• '놀랍게도'라는 표현은 이상함. 이스라엘 언론은 일선 분석가들이 경보를 울렸지만 무시당했다는 이야기를 반복적으로 보도함. 이는 성차별, 연령차별, 징병제에 대한 차별 때문일 수도 있고, 정부에 있는 정착 단체들이 가자 지구를 재정착하고자 하는 강한 의지 때문일 수도 있음. 어쨌든 신호는 있었고, 준비와 연습을 일 년 정도 관찰해왔음. 저항 그룹들이 그 비밀을 지켰다 하더라도, 평범한 정보군이나 군대의 장교라면 결국 폭력적인 반응이 있을 것이라는 결론을 내릴 수 있어야 함.
• 이스라엘 기술에 대해서는 잘 모르겠지만, 펜타곤은 실리콘 밸리에서 이미지 문제가 있음. 최고의 인재를 모집하거나 Palintir 같은 계약 회사에 고용되는 것은 아닌 것 같음. 우리 세대는 2차 세계대전보다는 이라크와 베트남에 더 가깝고, 많은 뛰어난 마음들은 첫 세대 이민자임. 최근에 광고 기술이 이미지 문제를 겪고 있지만(사람들이 제작 과정을 더 많이 보게 되면서), 방위 산업보다는 대형 소비자 회사에서 일하는 것이 여전히 더 매력적임. 동료들에게 미국 정부나 간접적으로라도 일하도록 하려면 더 많은 돈을 지불해야 함. 대신 종종 더 적은 돈을 받고, 시간 외 활동에 대한 자유도 덜함.
• 기사 말미에서, Cockburn은 ChatGPT에게 IDF와 Palantir의 작업에 대해 물었을 때 환상적인 대답을 받았다고 불평함. DuckDuckGo.com에 "IDF Palantir"을 검색하면 여러 뉴스 기사 링크를 받을 수 있음. LLM이 현재 믿을 수 없다는 것이 포인트라면 그렇지만, Palantir이 IDF와 협력하는지 알 수 없다는 것이라면 이미 증거가 있음.
• 측정과 대책의 영원한 진리에서 벗어날 수 없음... 도구를 가진 바보는 여전히 바보임...
• 운영 인력이 온콜 의무의 거짓 경보로 인해 압도당하는 것 같음. 오류를 수정하는 가장 좋은 방법은... 그냥 무시하는 것임. 관료적인 직원이 운영해야 하는 복잡한 시스템은 실패할 운명임.