핵심 요약
- 공격자가 DeepSeek AI와 오픈소스 에이전트 프레임워크 Hermes Agent를 결합해 사람 개입을 최소화한 자율 공격 체계를 운영 중인 것으로 분석됨
- 주요 표적은 인터넷에 노출된 취약 서버이며, 침투 성공 시 데이터 유출 및 측면 이동 가능성이 존재함
- 본 사례는 생성형 AI가 사이버 공격에 악용되는 새로운 위협 트렌드의 초기 신호로 해석되며, 탐지 중심의 대응 체계 전환이 시급합니다
AI가 공격의 의사결정 역할을 일부 담당하기 시작한 만큼, 보안팀은 탐지·패치·자동화 체계를 동시에 재정립해야 합니다.
2026년 7월 31일, 보안 매체 Bleeping Computer는 공격자가 DeepSeek AI 모델과 Hermes Agent 프레임워크를 결합해 자율적으로 취약 서버를 공략하는 사례를 보도했습니다. 본 기사는 해당 사건의 기술적 배경을 분석하고, 기업 보안팀이 즉시 도입해야 할 대응 전략을 제시합니다.
AI가 사이버 공격 도구로 쓰이기 시작했다
DeepSeek와 Hermes Agent의 결합 구조
보안 인텔리전스 분석에 따르면, 공격자는 대규모 언어 모델 DeepSeek를 의사결정 엔진으로 활용하고, 오픈소스 에이전트 프레임워크인 Hermes Agent를 통해 실제 시스템 명령을 실행하는 구조를 채택한 것으로 파악됩니다. 공격자는 자연어로 된 공격 지시문을 DeepSeek에 입력하고, Hermes Agent가 이를 운영체제 명령으로 변환해 표적을 스캐닝·공격하는 흐름입니다.
기존 공격 체계 대비 변화된 점
기존 사이버 공격은 운영자가 직접 명령을 입력하거나 사전 제작된 스크립트를 실행하는 방식이 일반적이었습니다. 반면 본 사례에서는 모델이 스스로 다음 단계를 제안하고 실행 결과에 따라 후속 행동을 선택하는 점에서 사람의 개입 수준이 제한적인 limited 자율 공격이 특징입니다.
자율 공격의 동작 방식과 표적
스캐닝부터 침투까지 사람 개입 최소화 흐름
자율 공격은 일반적으로 다음 순서로 진행되는 것으로 분석됩니다.
- 인터넷 노출 자산을 자동으로 식별하고 포트·서비스 정보 수집
- 수집된 정보를 DeepSeek에 전달해 취약점 후보를 추론
- Hermes Agent가 익스플로잇 후보 코드를 생성 및 실행
- 성공 여부를 모델이 자체 판단해 추가 침투 또는 측면 이동 결정
노출 서버를 노리는 공격자의 동기와 수익 모델
공격자는 중국어권 위협 행위자(Chinese-speaking threat actor) 프로파일을 보이는 것으로 보고됩니다. 수익 모델은 데이터 탈취 후 랜섬웨어 이중 압박, 크립토재킹, 초기 침투 접근권 판매 등으로 다중화되어 있을 가능성이 제기됩니다.
왜 지금 위험한가 — 위협 정량화와 영향
탐지 우회와 공격 스케일링 가능성
DeepSeek 같은 생성형 AI는 정상 트래픽과 악성 트래픽을 문맥적으로 혼합한 페이로드를 즉석에서 생성할 수 있어, 전통적인 시그니처 기반 탐지를 우회할 가능성이 높습니다. 또한 동일한 절차를 수천 개 표적에 병렬 적용할 수 있어 공격 스케일링이 용이합니다.
기업 환경에 미치는 잠재적 피해 시나리오
노출 서버를 거점으로 삼는 자율 공격은 다음 시나리오로 확장될 수 있습니다.
| 단계 | 공격 행위 | 잠재적 영향 |
|---|---|---|
| 1. 발견 | 인터넷 노출 자산 스캐닝 | 공격 표면(attack surface) 식별 |
| 2. 침투 | 취약점 악용 익스플로잇 자동 실행 | 초기 접근권 확보 |
| 3. 측면 이동 | 내부망 추가 시스템 침투 | 권한 상승 및 데이터 접근권 확장 |
| 4. 탈취 | 데이터 유출 및 랜섬웨어 배포 | 금전적 손실과 평판 훼손 |
기업 보안팀의 즉시 대응 체크리스트
AI 기반 행동 탐지와 로그 상관 분석 도입
시그니처 기반 탐지의 한계를 보완하기 위해 사용자·엔터티 행동 분석(UEBA) 및 AI 기반 행위 기반 탐지를 도입해야 합니다. 또한 SIEM과 EDR 로그를 상관 분석해 비정상적인 명령 실행 시퀀스를 자동 탐지하는 체계를 갖춰야 합니다.
노출 자산 축소와 취약점 패치 우선순위 재정렬
즉시 실행 가능한 항목은 다음과 같습니다.
- 인터넷 노출 자산 인벤토리 점검 및 불필요 포트 차단
- CISA KEV(known exploited vulnerabilities, 악용 알려진 취약점 카탈로그) 기반 패치 우선순위 재정렬
- AI 에이전트 기반 행위 패턴 차단 룰 배포
- 침투 테스트에 AI 공격 시나리오 추가
향후 전망과 정책적 시사점
본 사례는 생성형 AI가 단순한 정보 수집 단계를 넘어 실제 악성 코드 실행과 취약점 식별까지 개입하는 첫 번째 실무 사례로 평가됩니다. 향후 동형의 공격은 모델 다양화와 에이전트 고도화로 더 정교해질 가능성이 있으며, 각국 규제当局은 AI 모델의 안전 필터와 사이버 무기화 방지에 대한 정책적 논의를 본격화해야 한다는 시사점을 줍니다. 보안팀은 공격 자동화를 방어 자동화로 대응하는 균형 전략을 수립해야 합니다.
요약 정리
- DeepSeek + Hermes Agent 결합으로 자율 공격 체계가 실전投入 단계에 진입함
- 주요 위협은 인터넷 노출 서버와 시그니처 기반 탐지 우회 가능성임
- 대응 핵심은 AI 기반 행위 탐지, 노출 자산 축소, 패치 우선순위 재정렬임
- 장기적으로 공격 자동화와 방어 자동화를 동시에 구축하는 균형 전략이 필요함
참고 출처