Google Gemini CLI 해킹 악용 사례와 AI 에이전트 시대 보안 거버넌스 대응

2026년 7월 15일, 보안 매체 Bleeping Computer는 Google이 오픈소스로 공개한 명령행 AI 도구인 Gemini CLI가 러시아어권 위협 행위자 bandcampro에 의해 해킹 에이전트 및 봇넷 운영 도구로 악용된 정황을 보도했다. 본稿는 해당 사건의 기술적 구조를 해부하고, AI 에이전트 오용이 가져오는 보안 위협 지형의 변화를 진단하며, 기업 보안팀이 즉시 실행 가능한 거버넌스 강화 방향을 제시한다. 특히 AI 기반 오케스트레이션이 사이버 범죄 인프라 운영까지 확장된 첫 사례에 가까운 사안인 만큼, 단순 이슈 트래킹을 넘어 정책적 대응 체계 재설계가 필요한 시점이다.

사건 개요: Gemini CLI의 해킹 에이전트 전락

사건 경위와 위협 행위자 bandcampro 프로파일

Bleeping Computer 보도에 따르면 Gemini CLI의 해킹 악용 사례는 위협 행위자 bandcampro와 연결된 것으로 조사되었다. bandcampro는 러시아어권 사이버 범죄 포럼에서 초기 접근 도구 및 멀웨어 배포 활동을 운영해 온 것으로 보도된 위협 행위자이며, 이번 사건에서는 AI 기반 오케스트레이션을 활용해 소규모 봇넷을 통합 관리한 정황이 포착되었다. 위협 행위자가 단일 도구를 통해 다양한 공격 단계를 부분 자동화한 것은 전통적 멀웨어 운영과 구분되는 운영 사례로 평가된다.

악용된 핵심 기능과 공격 시나리오 요약

Gemini CLI는 명령행에서 자연어 명령을 통해 코드 생성, 파일 처리, 셸 명령 실행 등 광범위한 작업을 수행할 수 있는 AI 에이전트다. 공격자는 이러한 기능을 활용해 정찰, 멀웨어 다운로드, 봇 노드 배포, 명령 제어를 단일 인터페이스에서 통합한 것으로 분석된다. 즉, 공격자가 기존에는 다수의 도구를 수동으로 연결해야 했던 작업 흐름을 자연어 프롬프트 한 줄로 대체하면서 운영 효율이 크게 향상된 것으로 해석된다.

왜 오픈소스 AI CLI가 공격자에게 매력적인가

Gemini CLI가 공격 인프라에 채택된 배경에는 (1) 정식 설치 파일과 신뢰 가능한 코드 서명 기반 제공으로 탐지 우회가 용이하다는 점, (2) 자연어 인터페이스로 인해 공격자 학습 곡선이 낮아진다는 점, (3) 다양한 운영체제와 환경에서 즉시 동작 가능한 크로스 플랫폼 호환성, (4) 오픈소스 특성상 사용자 정의 확장이 자유롭다는 점이 복합적으로 작용한 것으로 분석된다. 한편으로, 정상 개발 업무에서도 동일한 도구가 광범위하게 사용되고 있어 정상 행위와 악성 행위의 구분이 매우 어려운 양면성을 갖는다.

기술 분석: 봇넷 운영에 활용한 AI 오케스트레이션 구조

CLI 기반 AI 에이전트의 침투 및 확장 동작 메커니즘

Gemini CLI가 에이전트 모드로 동작할 때, 자연어 지시를 다단계 셸 명령과 원격 호출로 변환하여 실행하는 메커니즘을 갖는다. 공격자는 이를 활용해 감염 노드에서 추가 페이로드를 다운로드하고, 봇 마스터와의 통신 채널을 설정하며, 수십~수백 개 노드에 대한 명령을 순차적으로 배포할 수 있다. 특히 AI가 명령 실행 실패 시 스스로 재시도하거나 대안 경로를 선택하는 자동 재시도 및 대안 경로 선택 특성은 운영 안정성을 높여, 공격자 입장에서 봇넷 가용성 향상에 기여한 것으로 추정된다.

다중 공격 도구와 봇넷 인프라의 결합 지점

bandcampro는 Gemini CLI를 단일 인터페이스로 활용해 다음과 같은 기능을 통합한 것으로 보인다. 아래 표는 공격자가 AI 에이전트에 위임했을 것으로 추정되는 작업과 기존 수동 운영 대비 변화 양상을 정리한 것이다.

이러한 결합 구조는 공격 운영의 진입 장벽을 낮추고, 숙련된 위협 행위자 1명이 AI를 통해 다수의 중간 단계를 병렬화할 수 있게 만든다는 점에서 위험성이 매우 높은 것으로 평가된다.

자연어 프롬프트 기반 명령 자동화가 가져오는 변화

전통적인 자동화는 정해진 스크립트와 조건문으로 구성되어 패턴 분석이 상대적으로 용이했다. 반면 AI 에이전트는 매 호출 시점에 명령 시퀀스가 미세하게 달라질 수 있어 시그니처 기반 탐지의 한계를 노출시킨다. 즉 동일한 의도의 공격이라도 AI가 생성하는 명령열은 매번 다른 형태를 가질 가능성이 높으며, 이는 EDR과 같은 행위 기반 탐지 시스템의 정밀도를 크게 요구하는 부담으로 전환된다.

보안 위협 함의: AI 에이전트 오용 시대의 리스크 지형

시그니처 기반 전통 방어의 한계와 탐지 난이도 상승

Gemini CLI 자체는 정상 도구이기 때문에 파일 해시, 도구명, 코드 서명 기반의 시그니처 탐지는 사실상 무력화된다. 탐지의 무게중심은 도구 식별에서 호출 패턴, 명령 인자, 외부 네트워크 행위, 프로세스 트리로 이동해야 한다. 그러나 AI 에이전트의 호출은 정상 개발 업무와 유사한 패턴을 보일 수 있어, 오탐과 미탐 사이의 균형 잡기가 매우 어려워진 것으로 분석된다. 따라서 보안팀은 AI 호출 행위를 식별 가능한 이벤트로 로깅하는 정책적 접근을 검토해야 한다.

러시아어권 위협 생태계와의 연계 가능성

bandcampro가 활동해 온 러시아어권 사이버 범죄 생태계는 RaaS(Ransomware-as-a-Service), 정보 스틸러, 초기 접근 브로커(IAB) 시장이 성숙되어 있다. Gemini CLI와 같은 범용 AI 도구가 이 생태계에서 활용될 경우, 초기 침투부터 수익화 단계까지 AI가 보조하는 구조가 등장할 가능성이 높다. 이는 위협 행위자의 기술적 격차를 해소하고, 공격 생산성을 한 단계 더 끌어올리는 촉매제가 될 것으로 전망된다.

공급망 위협 관점에서 본 오픈소스 AI 도구의 리스크

Gemini CLI는 GitHub 저장소를 통해 공개된 오픈소스 프로젝트로, 정상 사용자뿐 아니라 공격자에게도 동일한 기능을 제공한다. 이러한 특성상 공급망 위협의 관점에서는 (1) 의존성 라이브러리 변조, (2) 빌드 산출물 변조, (3) 로컬 설치본 변조의 세 가지 경로가 모두 잠재적 위험에 노출된다. 즉 도구 자체의 보안 점검을 강화하더라도, 사용자 환경에서의 배포 및 실행 단계에서 신뢰 사슬이 끊길 가능성을 완전히 배제할 수 없는 것으로 판단된다.

대응 권고: AI 도구 거버넌스와 사용자 행위 모니터링

기업 내 AI CLI 및 에이전트 사용 정책 강화 방안

기업 보안팀은 AI 에이전트를 일반 개발 도구가 아닌 생산성 도구가 아닌 통제 대상 자산으로 재분류해야 한다. 우선 정책 차원에서 (1) 사내 허용 AI CLI 목록 및 버전을 명시하고, (2) 설치 경로를 표준화하며, (3) AI 호출 시 사용자 인증 및 감사 로그 의무화를 적용하는 것이 권고된다. 또한 정상적인 사용 사례라도 위험 명령 셋(예: 셸 실행, 외부 다운로드, 레지스트리 변경 등)은 사전 승인을 받도록 절차를 설계할 필요가 있다.

EDR/SIEM 환경에서 AI 호출 행위 로깅 및 이상 탐지

탐지 효율을 높이려면 AI 호출 행위를 가시화하는 것이 우선이다. 다음의 핵심 이벤트들을 EDR/SIEM에 통합 수집하는 것이 권장된다.

• Gemini CLI 프로세스 실행 이벤트 및 부모-자식 프로세스 트리
• AI가 호출한 셸 명령과 외부 네트워크 연결 로그
• AI가 생성한 스크립트 파일의 경로, 해시, 서명 정보
• 비정상 시간대, 비인가 사용자, 비인가 호스트에서의 AI 호출 빈도

이와 함께 정상 업무 시점의 호출 베이스라인을 수립하고, 명령 인자나 외부 연결 패턴이 베이스라인에서 벗어날 경우 경보를 발생시키는 이상 탐지 룰을 함께 설계해야 한다.

개발자 워크스테이션과 운영 환경 분리 전략

Gemini CLI와 같은 AI 에이전트는 기본적으로 개발자 워크스테이션에 설치되지만, 권한 상승을 통해 운영 환경까지 침투할 수 있다. 따라서 (1) 개발 환경과 운영 환경 간 자격 증명 분리, (2) 운영 환경 서버에 AI 에이전트 설치 금지 정책, (3) AI가 생성한 스크립트의 운영 배포 전 별도 검증 단계 강제가 필요하며, 이를 통해 AI 오용의 영향 반경을 최소화할 수 있을 것으로 분석된다.

결론: AI 시대 보안 전략의 재정의

보안 담당자가 즉시 점검해야 할 단기 체크리스트

Gemini CLI 악용 사건은 기업이 AI 도구를 통제 없이 사용해 온 결과에 대한 경고로 해석된다. 단기적으로 다음 항목을 즉시 점검해야 한다.

1. 사내 시스템에서 Gemini CLI 및 유사 AI CLI의 설치 현황 전수 조사
2. 개발자 PC 및 빌드 서버의 EDR 로그에서 AI 호출 패턴 점검
3. AI 에이전트가 생성한 스크립트가 배포된 사례의 코드 감사
4. 외부 네트워크로의 비인가 데이터 송신 여부 점검
5. AI 도구 사용 관련 사내 정책 존재 여부 및 현행화 상태 검토

중장기 AI 거버넌스 로드맵과 정책 프레임워크

중장기적으로는 AI 도구 도입 승인 절차, 위험 등급 분류, 데이터 유출 방지 정책, 사고 대응 플레이북을 통합한 거버넌스 체계를 수립해야 한다. 특히 AI 에이전트가 수행한 모든 작업은 책임 추적 가능한 감사 로그로 보존되어야 하며, 사고 발생 시 어떤 프롬프트와 어떤 명령이 실행되었는지를 재현할 수 있는 수준의 로그 보존 정책이 필요하다.

향후 AI 에이전트 오용 위협의 진화 방향 전망

향후 위협 행위자는 다중 AI 에이전트를 협업시키는 멀티 에이전트 봇넷, 정상 AI 도구의 기능을 확장한 커스텀 변형, 그리고 AI 호출 자체를 난독화하는 고급 우회 기법으로 진화할 가능성이 높다. 이에 따라 보안 산업 전반에서도 AI 호출 분석 전용 탐지 엔진, AI 페어리로드 샌드박스, AI 행위 시뮬레이터 등 새로운 보안 제품군이 등장할 것으로 전망된다. 본 사건은 그 변화의 첫 번째 신호탄이며, 기업 보안팀은 AI 도구를 위험 통제 대상의 핵심 자산으로 재정의하는 작업을 지금 시작해야 한다.

참고 자료: Bleeping Computer 원문 기사, Google Gemini CLI 공식 저장소 및 문서