테러리스트의 프롬프트: Boko Haram이 ChatGPT·Claude·Grok을 전장에 끌어들인 방법

아프리카 최대 반군 조직 가운데 하나인 Boko Haram이 더 이상 텐트 위 전단지만 만들지 않는다는 사실은 어느새 학술 보고서가 아니라 현장 증언으로 확인되고 있다. 보도에 따르면 나이지리아 북동부 일대에서 수집된 일차 자료는 적대 세력 내부에서 프런티어 AI가 실제로 어떤 역할을 하는지를 상당히 구체적으로 드러낸다.

연구 배경: 누가, 무엇을, 왜 조사했나

이번 조사는 특정 단일 사건이 계기가 된 것이 아니라, 무장 세력 내부에서 거대 언어 모델이 어떻게 흡수되고 있는지 추적하기 위한 현장 연구 성격이 강하다. 연구진은 2025~2026년에 걸쳐 나이지리아 북동부에서 대면 인터뷰를 반복 수행해 조직 내부 관점을 가능한 한 직접적으로 확보하려 했다.

57회 인터뷰와 27명 증인의 구성

총 57회의 대면 인터뷰는 전 Boko Haram 구성원 27명을 대상으로 진행됐다. 이들은 ISWAP 또는 JAS에 속했던 경험을 토대로 발언한 인물들로, 증언 횟수가 인물 수보다 많은 것은 동일 피험자에 대한 후속 확인과 시기별 상황 점검이 포함된 것으로 보인다. 이러한 설계는 단발성 진술의 한계를 보완하고 패턴을 추출하려는 의도로 해석된다.

2023년을 기점으로 본 AI 도입 가설

증언 다수가 일관되게 가리키는 시점은 2023년이다. ChatGPT 등 주력 모델이 전 세계적으로 일반에 공개된 직후 시기부터, 두 분파 모두에서 상용 LLM을 정기적으로 사용한 흔적이 포착됐다. 이는 AI 도구가 조직 내에 자연 확산되는 데 1년 이내의 짧은 지연만 존재했음을 시사한다.

사용된 프런티어 모델 스택과 영역별 활용

가장 주목할 부분은 적군이 단일 모델에 의존하지 않고 복수의 프런티어 모델을 동시에 운용했다는 점이다. 모델별로 강점이 다르기 때문에 역할이 나뉘는 이른바 다중 스택 구조가 형성되었다고 진술했다.

ChatGPT·Claude·Gemini·Grok·Meta AI·DeepSeek의 역할 분담

공격 준비·정보 분석·일상 운영으로 본 활용 사례

• 공격 준비: 작전 계획 초안 작성, 무기·지형 관련 자료 정리, 의사소통 문안 다듬기
• 정보 분석: 뉴스·공개 보고서 요약, 정부 발표 비교 분석, 다국어 번역
• 일상 운영: 교육 콘텐츠 제작, 기술 문서 학습, 내부 기록 정리

증언에 따르면 이러한 활용은 조직 내부의 문서화 수준과 언어 능력을 동시에 끌어올린 것으로 분석된다. 특히 아랍어·영어·하우사어 등 다국어 환경에서 번역과 요약 능력이 크게 향상된 것으로 보인다.

증언 패턴에서 드러난 조직 내 변화

57회 인터뷰의 개별 진술을 정량적으로 집계하기는 어렵지만, 공통된 패턴은 뚜렷하다. AI 도입 이후 조직 운영의 속도와 정밀도가 함께 변화했다고 진술한 사례가 다수였다.

작전 속도와 정보 비동기성의 향상

증언 다수는 모델을 통해 정보를 비동기적으로 처리하는 능력이 강화됐다고 언급한다. 과거에는 분석가가 직접 자료를 읽고 요약해야 했으나, LLM을 통해 수십 건의 문서를 동시에 압축하면서 의사결정 주기가 단축된 것으로 보인다. 다만 이러한 속도 향상이 곧바로 작전 정확도의 향상으로 이어졌는지에 대해서는 데이터가 부족해 추가 연구가 필요하다.

이념·사제적 활용과 신원 보정 시도

일부 증언에서는 종교적 텍스트의 해석과 설교문 작성에 LLM이 활용된 사례도 언급됐다. 동시에 적군 구성원 다수가 모델의 안전 가드레일을 우회하려는 시도를 반복했다고 진술했다. 이는 프런티어 모델의 거절 응답이 단순 필터가 아니라 반복적으로 시험되는 대상일 수 있다는 점을 시사한다.

함의와 정책 과제

이 자료가 제기하는 가장 중요한 질문은 LLM 공급사의 안전 책임 범위와 국제사회의 조정 메커니즘에 관한 것이다. 모델은 글로벌 제품이지만 오남용은 지역적으로 발생하며, 그 비용은 특정 국가 군중이 치르게 된다.

공급사 측면 모더레이션과 다국어 안전장치 강화

증언은 영어 외 언어로 작성된 우회 프롬프트가 비교적 빈번하다는 점을 시사한다. 공급사 입장에서는 영어 중심의 안전 평가만으로는 대응이 충분치 않으며, 아랍어·하우사어·프랑스어 등 주요 언어에 대한 별도 평가 체계가 필요하다. 또한 모델 업데이트 시 우회 사례를 반영하는 신속 피드백 루프 구축이 요구된다.

국제 협력과 오픈소스 모델 위험 모니터링

상용 API 기반 모델은 로그 추적이 가능하지만 오픈소스 가중치를 로컬에서 구동하는 경우 추적이 사실상 불가능해진다. 따라서 OpenAI 정책 및 안전 보고서와 같은 공급사 보고서만으로는 위험 전체를 포착할 수 없으며, 오픈소스 모델에 대한 모니터링과 국제 공동 대응 체계가 병행되어야 한다. GeekNews 원문은 이 문제의 단면을 일반 독자에게 노출했다는 점에서 의의가 있다.

한계와 후속 연구

현장 인터뷰 기반 연구는 회상 편향과 진술 전략의 영향을 받을 수밖에 없다. 증언자 27명은 조직 전체 인구의 극히 일부분이며, 실제 오남용 규모를 정량화하기에는 표본이 제한적이다. 후속 연구에서는 LLM 로그 메타데이터 분석, 적군이 폐기한 단말기 포렌식, 비정부기구와의 교차 검증 등이 함께 이뤄져야 신뢰도가 높아질 것으로 보인다. 또한 모델별 우회 성공률과 안전장치 개선 추이를 시계열로 추적하는 공개 데이터셋 구축도 중요한 과제다.