[태그:] 엔드포인트 보안

  • AI 악성코드 ClosedQuorum의 등장… 엔드포인트에서 LLM API를 끊어내는 법

    AI 악성코드 ClosedQuorum의 등장… 엔드포인트에서 LLM API를 끊어내는 법

    상용 LLM API를 호출해 실시간으로 다음 행위를 만들어 내는 자율 침투형 AI 악성코드 ‘ClosedQuorum’이 보안 커뮤니티에 보고됐다. 고정 스크립트 없이도 LLM이 매 순간 새로운 명령을 생성해 내는 구조라, 시그니처·정적 패턴·행위 룰 기반의 전통적 탐지 체계가 사실상 무력화될 수 있다는 평가가 나온다. 사고 확산을 막는 1차 방어선은 더 정교한 탐지 룰이 아니라 엔드포인트 단 비인가 AI API 호출 자체를 끊고, LLM이 돌려주는 동적 명령을 실행 직전에 검증하는 아웃바운드 통제로 옮겨가고 있다.

    추론하는 악성코드, ClosedQuorum의 작동 구조

    사내망에 잠입한 이후 전통적 악성코드는 보통 C2 서버에서 미리 짜여진 명령을 받아 행동을 분기한다. ClosedQuorum은 이 모델을 한 단계 더 끌어올려, 상용 대규모언어모델 API를 호출하고 그 추론 결과를 다음 명령으로 삼는 구조를 채택했다. 공격자는 감염 호스트의 시스템 정보·권한 상태·네트워크 환경 등을 프롬프트에 담아 API로 송신하고, LLM은 그에 맞춰 다음에 수행할 침투 절차를 즉석에서 생성해 돌려준다.

    이 방식이 위험한 까닭은 동일 샘플이 두 번 다시 등장하지 않을 가능성이 매우 크다는 점이다. 명령이 매번 LLM의 추론 결과로 생성되므로, 안티바이러스나 EDR이 비교할 해시·문자열·YARA 패턴이 사실상 존재하지 않는다. LLM과의 통신은 정상적인 HTTPS 443 포트 위에서 JSON 페이로드로 일어나 외형상 일반 클라우드 API 호출과 구분이 어렵다. 단순 DPI나 포트 기반 차단은 물론, 트래픽 통계로도 정상 서비스와 구별하기 쉽지 않은 것으로 분석된다. 이러한 흐름은 금융권 1·2금융권 6곳을 72시간 만에 무너뜨린 ‘조용한 침투’ 사례에서도 이미 그 위험성이 확인된 바, AI 기반 지능형 침투의 공격 표면이 산업 전반으로 확대되고 있다.

    왜 기존 탐지 체계가 뚫리는가

    전통적 악성코드 탐지는 크게 세 축 위에 서 있다. 시그니처·정적 분석, 행위 기반 룰, 그리고 샌드박스 동적 분석이다. ClosedQuorum처럼 매 호출마다 LLM이 새로운 명령열을 만들어 내는 경우, 세 축 모두에서 결정적 단서가 사라진다. EDR이 PowerShell, Python, curl, wget, Node.js, rundll32 같은 스크립트 호스트의 행위를 추적한다 해도, 그 자식 프로세스가 보내는 페이로드 내용이 매 순간 달라지므로 룰 매칭이 사실상 성립하지 않는다.

    같은 시기 카카오골프예약에서 약 3만 4천여 건의 고객 정보가 유출된 사실이 보안뉴스에 보도됐다. 유출 항목에는 이름·전화번호·상품명·라운드 일자·결제 금액·주문번호·결제·취소 일시·가상계좌번호가 포함됐고, 카드번호·주민등록번호는 포함되지 않은 것으로 카카오 VX 측은 설명했다. 두 사건의 침투 경로와 동기는 다르지만, LLM을 매개로 한 지능형 침투와 전통적 웹 애플리케이션 정보 유출이 하나의 위협 지형 안에 공존하고 있다는 점에서 보안 운영의 복잡도가 한 단계 높아졌다는 평가가 나온다. ClosedQuorum을 처음 보고한 보안뉴스 카드뉴스는 이같은 변화 속에서 ‘엔드포인트 단 비인가 AI API 차단’과 ‘강력한 아웃바운드 통제’를 1차 방어선으로 명시했다.

    엔드포인트 단 LLM API 차단 — 1차 방어선 재설계

    ClosedQuorum 대응의 출발점은 엔드포인트에서 비인가 LLM API 호출을 끊는 것이다. 가장 먼저 적용되는 정책은 프로세스 트리 기반의 통제다. EDR에서 PowerShell, Python, curl, wget, Node.js, rundll32 같은 스크립트 호스트가 상용 LLM API 엔드포인트로 HTTPS를 호출하는 행위를 자식 프로세스 단위로 탐지·차단하도록 설정한다. 단순 도메인 차단만으로는 우회가 쉽기 때문에, 어느 부모 프로세스가 어떤 인자열로 호출했는지를 함께 기록하는 것이 핵심이다.

    호스트 방화벽도 함께 강화해야 한다. Windows Defender Firewall, 리눅스 환경의 nftables, macOS의 pf 등에서 주요 상용 LLM API 도메인과 IP 대역을 비인가 프로세스 대상 차단 목록에 등록하고, 화이트리스트로 지정된 신뢰 프로세스만 예외로 허용하는 방식이 권고된다. 긴급 차단 시 운영자 접근 경로가 끊기지 않도록 관리자 VPN 대역을 사전에 허용해 두는 방식이 일반적으로 권장된다.

    네트워크 단에서는 SSL inspection이 결정적 역할을 한다. 프록시 또는 SSL inspection 장비를 통해 아웃바운드 HTTPS 트래픽에 클라이언트 인증서 기반 화이트리스트를 적용하고, 미승인 엔드포인트의 443 통신을 정책 단에서 종료한다. LLM 호출은 정상 클라우드 트래픽과 외형이 같기 때문에 평문 검사가 가능한 SSL inspection 없이는 페이로드 내부의 시스템 명령(whoami, ipconfig, 레지스트리 키, Base64 페이로드, Shadow Copy 삭제 명령 등)을 탐지할 수 없다.

    아웃바운드 통제와 런타임 검증으로 완성하는 다층 방어

    엔드포인트 차단만으로 충분하지 않은 이유가 있다. 한 엔드포인트가 침해되면 LLM이 내려준 동적 명령으로 동일 서브넷 내 다른 호스트로 횡적 이동이 시도될 수 있고, 수집된 데이터는 또 다른 정상 API 호출 위장으로 외부로 송신될 수 있다. east-west 트래픽 모니터링과 네트워크 분할이 함께 설계돼야 LLM 기반 C2의 연쇄 확산을 막을 수 있다.

    SIEM 상관 분석도 병행된다. EDR의 스크립트 실행 로그와 SIEM의 네트워크 로그를 결합해 LLM API로 송신되는 페이로드 안에 시스템 명령 패턴이 포함된 경우 자동으로 경보를 발생시키는 룰이 운영 효율을 좌우한다. DLP와 CASB(예: Microsoft Defender for Cloud Apps, Zscaler, Netskope)의 generative AI app control 기능을 활성화해 비인가 LLM 사용 트래픽을 가시화하고, 텍스트 페이로드 내부의 명령 패턴까지 검사 범위를 넓히는 것이 권고된다.

    마지막 방어선은 LLM이 보낸 명령을 실행 직전에 검증하는 런타임 통제다. 스크립트 호스트가 외부에서 수신한 코드를 그대로 실행하기 전에 화이트리스트 기반의 명령 필터, 인자 정규화, 권한 강등(least privilege)을 거쳐야 한다. 사고 대응 플레이북에는 ‘AI API 호출 기반 침투 의심’ 시나리오를 추가하고, 감염 엔드포인트의 즉시 네트워크 격리, LLM API 자격 증명 회수, 동일 서브넷·동일 EDR 그룹 단말 일제 점검 절차를 플레이북에 명시하는 절차가 권고된다.

    AI 악성코드의 시대에 보안의 무게중심은 ‘들어오지 못하게’에서 ‘나가지 못하게’로 이동하고 있다. 시그니처가 사라지고, 행위 룰이 매번 빗나가는 환경에서 엔드포인트와 네트워크의 아웃바운드 통제, SSL inspection, 런타임 명령 검증이라는 전통적 통제 수단이 다시 한 번 1차 방어선으로 부상하고 있다. LLM이 만드는 침투 속도와 운영 통제의 속도 사이에서 승패가 갈린다는 점에서, 보안 조직은 LLM 기반 침투 속도에 맞춰 정책과 플레이북을 지속적으로 갱신해야 하는 과제를 안고 있다.