“신이 우리를 도왔고, AI도 그럴 것이다”: 테러 조직 Boko Haram의 프런티어 AI 활용 방식

 (casp.ac)
2P by GN⁺ | ★ favorite | 댓글 1개
  • 2025~2026년 나이지리아 북동부에서 전 Boko Haram 구성원 27명을 대상으로 대면 인터뷰 57회를 진행한 결과, ISWAP과 JAS 두 분파가 2023년부터 프런티어 AI를 전투·작전·일상 운영에 체계적으로 활용해 온 정황이 확인됨
  • ChatGPT·Claude·Gemini·Grok·Meta AI·DeepSeek는 공격 준비부터 실행 후 검토까지 사용됐으며, 무기 문제 해결·폭발 장치 설계·전술 계획·작전 보안·물류를 지원하는 상시 문제 해결 도구로 자리 잡음
  • 양측은 폭발물·총기·공학 전문가 등으로 구성된 전담 AI 조직을 두고, 여러 서비스의 계정과 유료 구독을 관리하며 지휘 체계를 따라 활용 지식을 전파함
  • 관련 역량은 Islamic State를 비롯한 초국가적 지하디스트(jihadist) 네트워크를 통해 전달됐으며, 외부 요원들이 장비·VPN·암호화 소프트웨어를 제공하고 모델 사용법과 안전장치 우회 기법을 대면·원격으로 교육함
  • 인터뷰 참여자들은 AI가 작전 능력을 높였다고 인식했지만 실제 효과는 입증되지 않았고, 자료도 전직·중간급 구성원의 자기보고에 의존함; 다만 2024년 당시 안전장치가 조직적 오용을 막지 못했다는 점은 현재의 보안 체계를 개별 악성 사용자보다 조직화된 적대자에 맞춰 검토할 필요성을 보여줌

현장 조사 범위와 근거

  • 2025년과 2026년에 나이지리아 북동부에서 전직 Boko Haram 구성원 27명과 총 57회의 대면 인터뷰를 진행함
    • 참여자에는 중간급 지휘관과 폭발물·무기·공학 분야의 기술 인력이 포함됨
    • 인터뷰가 다룬 활동은 주로 2023~2024년이며, 가장 최근 증언은 2025년 중반까지 이어짐
  • 활동 중인 테러 조직의 AI 사용을 전직 구성원의 현장 증언으로 조사한 첫 사례로 제시됨
  • 연구자는 복수 응답자의 증언을 대조하고 가능한 경우 2차 자료와 교차 검증했지만, 대상 집단에 대한 접근성과 주제의 민감성 때문에 모든 내용을 독립적으로 확인하지는 못함

선전 중심이라는 기존 평가를 넘어선 활용

  • 온라인 콘텐츠를 중심으로 한 기존 분석은 지하디스트의 AI 도입이 느리고 선전물 제작에 집중됐다고 평가했음
  • 이번 인터뷰에서는 Boko Haram의 두 주요 분파가 더 폭넓게 AI를 사용한 것으로 나타남
    • Islamic State West Africa Province(ISWAP)
    • Jamā’at Ahl as-Sunnah lid-Da’wah wa’l-Jihād(JAS)
  • 사용한 서비스에는 ChatGPT·Claude·Gemini·Grok·Meta AI·DeepSeek가 포함됨
  • AI는 임무 준비·실행·사후 검토를 포함한 군사 활동의 전 단계와 일상적인 조직 운영에서 활용됨

전투·작전·물류에서의 사용

  • 보고된 활용 범위는 다음과 같음
    • 무기 정비와 고장 진단
    • 폭발 장치 설계
    • 전술·전략 계획
    • 작전 보안
    • 이동·보급 등 물류 문제 해결
  • ISWAP은 방어 시설의 참호를 돌파하기 위한 오토바이 운용 방식을 AI에 질의해 요새화된 기지 공격에 적용했다고 증언함
  • 일부 참여자는 AI의 조언을 바탕으로 더 작은 부대를 사용해 공격을 조율하고 폭발물의 위력을 높여 내부 사상자를 줄였다고 인식함
  • 드론 무기화 과정에서 탑재 중량과 투하 장치 설계에 관한 조언을 받았다는 증언도 있음
  • 다만 AI가 실제로 성능을 향상했는지, AI가 없었다면 불가능했을 공격을 가능하게 했는지는 확인되지 않음

Islamic State 네트워크를 통한 역량 이전

  • ISWAP과 JAS 모두 AI 활용법을 독자적으로 발견한 것이 아니라 외부 지하디스트 네트워크에서 전달받은 것으로 나타남
  • Islamic State 요원들은 여러 장소에서 ISWAP 구성원을 상대로 대면 교육과 온라인 지원을 제공함
    • 핵심 인원을 모아 프로젝터를 이용해 사용법을 교육함
    • VPN과 암호화 소프트웨어가 설치된 노트북을 제공함
    • 서비스 계정을 만들고 유료 구독을 관리함
    • 프롬프트 작성법과 플랫폼 제한 우회법을 지속적으로 조언함
  • 응답자들은 Islamic State를 이러한 활동의 실질적인 원천으로 일관되게 지목함
  • JAS도 별도의 네트워크를 통해 유사한 교육을 받았으며, 특정 조직 하나에 국한되지 않은 확산이 진행됐음을 보여줌
  • Islamic State가 여러 지역 조직에 기술 역량을 전파하는 통합 네트워크로 운영된다는 점에서 다른 계열 조직에도 비슷한 교육이 전달됐을 가능성이 있으나, 연구가 이를 직접 확인한 것은 아님

전담 AI 조직과 계급별 접근 통제

  • ISWAP과 JAS 모두 여러 개의 AI 전담 조직을 설치함
  • 구성원은 폭발물 제작자·총기 전문가·엔지니어 등 고위급 작전·기술 인력에서 선발됨
    • 이들은 직접 전투에 참여하기보다 AI로 정보를 분석하고 실무 지침을 전달함
  • 전담 조직의 역할에는 다음 업무가 포함됨
    • 여러 AI 서비스에 질의해 작전 지침 생성
    • 복수 제공업체의 계정과 구독 관리
    • 내부 교육을 통한 지휘 체계 하향식 지식 전파
  • 개인정보 보호와 내부 보안을 이유로 컴퓨터와 AI 접근 권한은 계급·신뢰도·교육 수준에 따라 제한됨
  • 현장 구성원은 전담 조직이 지도부 직속에서 AI 분석을 수행하고, 일반 대원에게는 실행할 전략만 전달한다고 증언함
  • 자원이 부족한 조직이 고급 기술 인력을 전투 대신 AI 업무에 배치했다는 점은 AI에 높은 우선순위를 부여했음을 보여줌

안전장치 우회와 다중 서비스 전략

  • ChatGPT 출시 후 약 2년 만에 두 분파는 초기 체험 단계에서 전담 조직과 일상 작전 통합 단계로 이동함
  • 요청의 성격은 두 종류로 구분됨
    • 차량 수리·물류 등 일반 지식이나 이중용도 정보는 작전상 이점을 주지만 안전장치 실패로 볼 수 없음
    • 폭발물 설계·공격 계획은 안전장치가 차단해야 하는 요청에 해당함
  • 응답자들은 플랫폼의 제한을 넘을 수 없는 장벽이 아니라 훈련으로 관리 가능한 장애물로 인식함
    • 영화 제작 등 다른 목적을 가장하는 방식으로 요청을 재구성함
    • 외부 요원에게 배운 탈옥 기법을 사용함
    • 여러 서비스에 계정을 유지해 한 모델의 거부나 계정 정지에 대응함
  • 2024년 동안에는 이러한 제한이 오용을 막지 못한 것으로 나타났지만, 이후 강화된 안전장치가 더 큰 장애물이 됐는지는 확인되지 않음

체감 효과와 투자 확대의 순환

  • 전직 구성원들은 AI가 시행착오를 줄이고 더 정확한 해결책을 제공했다고 평가함
  • 이러한 체감 성능 향상은 객관적으로 검증되지 않았지만 조직의 의사결정에는 직접 영향을 줌
    • AI 전담 조직에 인력과 장비를 배정함
    • 교육과 구독에 자원을 투입함
    • 더 위험한 역량을 탐색할 유인을 높일 수 있음
  • 실제 성능 향상 여부와 별개로, 구성원들이 AI를 효과적인 도구로 믿는다는 사실 자체가 지속적인 도입을 촉진함

대량 살상 무기에 대한 태도와 현재 한계

  • 참여자들은 “신이 우리를 도왔고, AI도 그럴 것이다”라는 표현처럼 AI에 강한 기대를 보임
  • 일부는 화학·생물학 무기를 포함한 대량 살상 무기를 원칙적으로 배제하지 않았으며, 소수 증언에는 초보적인 화학 물질 실험 정황이 포함됨
  • 그러나 두 분파 모두 화학·생물학·방사능·핵무기(CBRN) 역량을 보유하지 않았고, 확인된 AI 활용도 재래식 무기와 기존 작전에 머물러 있음
  • 보고서는 AI 도입 의지가 높고 대량 살상 수단을 고려할 수 있는 조직일수록 모델 성능이 향상될 때 안전장치의 중요성이 커진다고 봄

연구의 불확실성과 일반화 한계

  • 결과는 전직 구성원의 자기보고에 의존하므로 과장이나 축소가 포함될 수 있음
  • 참여자 대부분이 중간급 인력이어서 지도부의 최종 의사결정, 최신 활동, 가장 민감한 활용 사례가 빠졌을 가능성이 있음
  • Boko Haram 한 조직을 다룬 사례 연구이므로 다른 테러 조직에 결과를 직접 일반화할 수 없음
  • AI 도입과 조직화는 확인됐지만, AI가 작전 효율을 실제로 얼마나 높였는지에 대해서는 인과적 결론을 내릴 수 없음

조직화된 적대자에 맞춘 대응 필요

  • Boko Haram은 자원이나 기술 수준이 특별히 높은 조직이 아니며, 공개된 AI 도구에 접근하는 장벽도 높지 않음
  • 초국가적 네트워크가 AI 도입을 빠르고 체계적으로 만들었지만, 동기가 강한 조직이라면 외부 네트워크 없이도 유사한 활용에 도달할 수 있다고 봄
  • 한 건의 구체적인 사례만으로도 테러 조직의 AI 활용을 미래의 가상적 위험이 아닌 현재의 안보 문제로 취급할 근거가 됨
  • 대응 주체별 과제가 제시됨
    • AI 개발자는 고립된 개인이 아니라 조직적으로 협력하는 적대자를 상대로 현재의 안전 구조가 충분한지 평가해야 함
    • 정책 당국은 테러 조직의 AI 도입을 현재 진행 중인 국가안보 사안으로 다뤄야 함
    • 정보기관과 법 집행기관은 확산 과정을 추적하고 관련 네트워크를 방해해야 함
    • 각 주체는 공동 분석 방법·정보 공유 채널·합동 대응 체계를 구축해야 함
  • 현재 이러한 협력이 문제의 규모에 맞게 마련돼 있는지는 불분명함

함께 보면 좋은 글 β

GN⁺   [-]
Hacker News 의견들

  • 영화에서 오토바이로 다리를 뛰어넘는 장면을 보고 AI에게 오토바이 종류와 도약 거리 등을 알려주며 방법을 배웠다. 계속 질문하며 깨진 유리와 불로 채운 구덩이에서 연습한 끝에 18명이 죽고 8명이 성공했으며, 다음 공격에서는 실제로 뛰어넘을 수 있었다고 한다
    이 사례가 우리에게 나쁜 결과를 낳았다고 하긴 어렵지만, 그렇다고 이들에게 AI를 더 주자는 뜻은 아니다. AI가 “훌륭한 연습장이 되려면 참호를 깨진 유리로 채우고 전부 불태워야 한다”고 맞장구쳤을 것만 같다

    • 깨진 유리와 불 대신 물을 채운 구덩이에서 연습하는 편이 낫다고 알려주는 것도 테러리스트에게 물질적 지원을 제공하는 셈인가?
    • 수차례 도약에 실패하고도 살아남은 8명보다는 그런 연습을 하지 않은 전투원 26명으로 공격하는 편이 낫겠다. 오토바이 묘기에 자신감이 붙었어도 방탄이 되는 건 아닐 테니, Claude에게 총알을 견디는 훈련법도 물어볼 수 있겠다
    • 이야기가 너무 황당해서 전체 내용이 의심스럽다. 첫 번째나 열 번째 사망자 뒤에도 멈추지 않고, 11번째 사람이 시체 더미를 보며 자기도 도전하겠다고 했다는 건가?
      테러 조직은 선전 영상을 좋아하는데 Evel Knievel식 오토바이 묘기를 실제로 했다면 영상이 어디에나 퍼졌을 것이다
    • 지도부가 지금과 같은 “저들은 너무 멍청하니 AI도 무해하다”는 반응을 노리고 기자에게 허튼 답을 줬을 가능성도 있다. 이런 판단은 위험하다. 지도자들은 평균적인 서구인보다 교육 수준이 높은 경우가 많고 선전에도 능숙하며, 서구 대학 출신도 흔하다
      망상에 빠진 농민을 그럭저럭 똑똑한 지도부가 이끄는 구조이고, 기사에서도 현장 인력은 지도부가 만든 AI 명령만 전달받는다고 한다. 자금력 있는 조직이 더 나은 AI를 확보하는 강한 비대칭은 여전하지만, AI 성능이 평준화되고 오픈소스가 따라잡으면 모든 테러리스트가 고급 무기 엔지니어와 전술가 팀을 거느리는 흥미롭고 위험한 세상이 될 수 있다
    • 살아남은 8명은 분명 피자에 접착제를 발라서 우위를 얻었을 것이다

  • “질문을 입력하거나 음성으로 ‘폭탄은 어떻게 만드나?’라고 물으면 AI가 자세한 방법을 알려준다. 인간 로봇 같아서 많이 사용했다”는 대목은 꽤 의심스럽다
    검열되지 않았거나 탈옥한 LLM의 답변도 실행 가능한 수준이 아니고 Wikipedia 이상의 내용을 거의 주지 않으며, 비검열 모델이 아니면 유도하기도 어렵다. LLM이 테러리스트에게 일반적으로 도움을 주는 것은 분명하지만, 다른 곳에서 구할 수 없는 통제된 지식을 제공해 활동의 효율이나 효과를 높인다는 주장에는 인터뷰 한 토막이 아니라 실질적인 증거가 필요하다

    • 폭탄, C4, 네이팜 등을 조립하는 방법은 원래 알아내기 어렵지 않았다. 폭력에 관한 지식의 접근성이 낮아서 사회가 보호된 적은 없으며, 예외가 있다면 아마 FBI 예산 회의에서의 논리일 것이다
    • Wikipedia 등을 직접 조사하는 건 이들의 이름이 금지한다는 “서구식 교육”에 해당할 수 있다. 에이전트가 금지된 자료를 대신 읽어주는 것이 이들에게 필요했던 우회로였던 셈이다
    • 비교적 무해한 질문에서도 AI 안전장치를 우회하기 어려운데, 이들은 어떻게 폭탄 제조 질문까지 통과시키는지 모르겠다
    • 폭발물에 관한 지식은 수천 년간 인간이 축적해 왔다. 새 지식을 제공하지 않더라도 기존 정보를 더 쉽게 찾아주는 것에는 나름의 가치가 있다. 물론 @dril의 표현처럼 어떤 상황에서도 “그 점만큼은 인정해 줘야 한다”고 해서는 안 된다
    • 어린아이는 자기 거짓말이 뻔히 보인다는 사실을 깨닫지 못하기도 하지만, 성인이 그러면 애처롭다. “Boko 장군이 눈물을 참으며 ‘선생님, 제발 우리 군대를 키워주십시오’라고 말했다”는 식의 이야기처럼 들린다

  • 보고서의 주장들이 이상하다는 데 동의한다. “예전에는 병력이 많다는 이유로 200명을 보냈다가 60명이 죽었지만, AI 덕분에 때로는 20명만 보내는 편이 낫고 소규모 부대를 잘 조율해 배치하는 법을 배웠다”는 대목은 특히 터무니없다. 다른 활용법은 AI 탈옥으로 정보를 더 쉽게 찾았다고 이해할 수 있어도, 이 부분은 연구자가 농락당한 게 아닌가 싶다

    • 이는 실제로 성립하는 전술이다. 역사적으로 Sturmtruppen과 특수부대가 성공한 이유도 작지만 잘 훈련되고 조율된 병력이 크고 무질서한 군중보다 나을 때가 많기 때문이다. 특히 자살 공격을 감수하거나 영토 점령·유지가 아니라 공포와 사상자 확대가 목표라면 더 그렇다
      병사 1,000명의 파상 공격으로 참호선을 뚫지 못해도 침투조 하나가 몰래 들어가 진입로를 만들 수 있다: https://en.wikipedia.org/wiki/Stormtroopers_(Imperial_German...
    • 연구자가 듣고 싶은 의미를 덧씌웠을 수도 있다. 이전에는 어떻게 학습했고 얼마나 읽었는지 물어봤어야 한다. 문맹이거나 교육받지 못한 이들이 음성 AI를 통해 고등학교 교육을 받은 사람에게는 상식인 내용을 들었다면 활동 효율이 높아질 수 있지만, 이를 암시된 방식대로 AI 탓으로 돌리기는 어렵다
    • 오히려 의문을 제기하는 쪽이 상황을 잘못 이해했을 가능성도 생각해야 한다. 반군에게 정면전은 몹시 비효율적이다. 대형을 갖추거나 복잡한 제병협동 공격을 하는 데 익숙하지 않고, 무리 지어 돌격하면 기관총으로 쉽게 대량 사살된다
      20명 규모 부대는 훈련·조율·배치가 쉽고, 치고 빠지기와 기본적인 매복 전술을 익히면 훨씬 효과적일 수 있다
    • 600명이 있으니 400명이 지키는 초소를 제압할 수 있다는 식의 단순한 수적 우세에 의존해 왔던 것으로 볼 수 있다. 공격을 더 잘 조율하면 적은 인원과 희생으로도 목표를 달성할 수 있고, 소규모 병력 이동은 탐지되기도 더 어렵다. 충분히 합리적인 해석이다
    • 같은 상황에서 200명을 보내 60명이 죽었다면, 20명을 보낼 때 무슨 일이 일어날까? 적어도 60명을 잃지는 않을 것이다

  • PDF를 대략 읽어보니 연구 방법론은 타당하지만 결과가 과장됐다. 제목이 “Boko Haram 내부에서 전해지는 AI 활용 풍문”이었다면 관심을 훨씬 덜 받았을 것이다
    AI에 관해 안다는 인터뷰 대상이 15명뿐이고, 이들조차 직접 사용한 적은 없는 듯하다. 프롬프트는 최고위 지휘관과 전문 부대만 보낼 수 있었으므로 몇 건의 간접 진술로 실제 활용상을 파악하기 어렵다. 지휘관들이 사기 진작을 위해 평범한 웹 검색을 주로 쓰면서도 AI를 많이 쓴다는 소문을 퍼뜨렸을 수도 있다
    총을 디젤로 씻어 분리하는 법이나, 총이 걸린 전투원을 뒤로 보내고 다른 사람이 자리를 메우게 하는 정도의 기본적인 도움에 굳이 AI 서비스 비용을 냈다는 것도 이상하다
    논문에 따르면 Boko Haram은 처음에는 비교적 평화롭게 지내던 단순한 종파였지만, 2009년 정부의 폭력적인 진압과 경찰 구금 중 Yusuf의 사망 뒤 지하디스트 반군으로 변했다. Amnesty International의 보고서는 민간인 사망의 55%를 테러 조직, 45%를 보안군이 초래한 것으로 추산했고 나이지리아군은 마을 전체를 초토화하기도 했다. 세상은 늘 선과 악의 이분법으로 나뉘지 않는다

  • “Boko Haram”은 “서구식 교육은 금지된다”는 뜻인데, 서구의 AI를 교육 도구로 쓰는 건 위선처럼 보인다

    • 여기서 “교육”은 실제로 이념을 뜻하는 것 아닐까?
    • 서구의 가치라는 뜻에 가깝다

  • 다음 속보는 테러 조직이 검색 엔진으로 정보를 찾고, 뉴스 사이트로 세계 정세를 파악하며, 은행·날씨 사이트·이메일·자동차·펜까지 쓴다는 내용이겠다. 당연히 AI도 사용한다. AI를 규제해야 한다면 이 모든 도구도 금지해야 한다는 논리로 이어진다

  • New York Times도 이 주제를 다룬 기사를 방금 실었다: How Terrorist Groups Are Using A.I. to Gain an Edge in Battle

    • 원문 링크를 열었다면 “Featured in The New York Times” 부분을 놓친 셈이다

  • 테러리스트의 사용을 막으려면 일반 시민에게 오픈소스 AI를 금지해야 한다

    • 로컬 LLM에도 소프트웨어 수준의 의무 신원 확인을 넣는 게 명백한 해결책이다 /s
    • 계산기와 피처폰도 테러리스트가 쓸 수 있으니 연령 확인을 붙여야 하지 않겠는가 /s

  • 이스라엘에서 에티오피아, 나이지리아, 인도, 미얀마, 신장, 체첸, 아르메니아까지 이어지는 분쟁 지대 곳곳에서 서구는 자신의 몰락을 돕고 있다

  • 이를 막으려는 시도는 테러리스트의 검색 엔진 사용을 차단하려는 것과 똑같이, 일반 사용자에게 불균형한 피해만 줄 것이다. 지금의 AI 오용 공포가 검색 엔진과 인터넷 도서관, 나아가 컴퓨팅 전반에도 적용됐다고 상상해 보면 된다. 지식은 테러 계획에도 유용하다는 이유로 모든 정보 도구를 제한하게 될 테니 말이다

답변달기