[태그:] 엔터프라이즈 DLP

  • AI 에이전트 권한 관리 실전 가이드: 사내 데이터가 새지 않게 ‘스코프·정체성·로그’ 3축으로 통제하는 법

    AI 에이전트 권한 관리 실전 가이드: 사내 데이터가 새지 않게 ‘스코프·정체성·로그’ 3축으로 통제하는 법

    보안팀에서 자주 받는 질문이 있다. “ChatGPT 사이트는 차단했는데 왜 사내 문서가 계속 나가지?”라는 것이다. URL 차단, DLP 정규식, 직원 교육까지 동원했는데도 누설 사고는 끊이지 않는다. 원인을 추적해보면, 직원이 브라우저에 무엇을 입력하느냐가 아니라 IT가 공식 승인한 사내 AI 에이전트가 Drive·SharePoint·사내 DB에 광범위한 OAuth 스코프를 그대로 들고 LLM을 호출하고 있다는 사실이 드러난다. 소비자용 LLM 웹사이트를 막는 차원의 정책으로는 더 이상 거버넌스를 설명할 수 없다.

    기존 AI 차단 정책은 모두 ‘사람’의 행위를 상정한다. consumer LLM 도메인 차단, 프롬프트 페이로드 정규식, 엔드포인트 키로거 — 이 모든 통제는 직원이 브라우저에서 무언가를 입력하거나 붙여넣는 순간을 잡아내도록 설계되어 있다. 그러나 정식 승인된 에이전트는 다른 경로로 움직인다. OAuth 흐름으로 토큰을 발급받고, MCP 같은 표준 인터페이스로 회사 데이터 저장소에 직접 연결되며, 그 권한은 사람이 일일이 데이터에 접근하는 것과 구분되지 않는다. Drive 전체 읽기 권한을 에이전트용 서비스 계정에 한 번 부여하면, 에이전트는 ‘계약서 검토’라는 정상 작업을 수행하면서 동시에 다른 폴더의 인사평가·미공개 재무자료까지 LLM 컨텍스트로 끌어들일 수 있다.

    왜 차단만으로는 부족한가 — 진짜 누출 경로는 ‘위임된 권한’

    이 격차를 해소하려면 AI 에이전트 권한 거버넌스를 ‘사람의 입력’이 아니라 ‘에이전트 정체성’에 맞춰 재설계해야 한다. 핵심은 ①에이전트별 최소 스코프, ②업무 단위 분리된 서비스 계정, ③프록시 기반 토큰 단위 DLP와 양방향 로그 — 이 세 축을 동시에 작동시키는 것이다. 한 축만 강제하면 다른 경로로 누설이 우회되며, 최소 권한 스코프, 전용 정체성, 양방향 감사 로그의 3축을 유기적으로 결합해야 실효성이 생긴다는 것이 현업의 합의다.

    차단 정책 입장에서는 그 호출이 정상 업무 트래픽인지, 데이터 유출 시도인지 구분할 단서가 없다. 결과적으로 가장 정교한 엔터프라이즈 DLP를 도입해도 사후에 사고를 추적할 수 없는 상황이 만들어진다. 거버넌스의 무게중심은 ‘어디서 호출되느냐’가 아니라 ‘누구의 자격증명으로 어떤 스코프가 위임됐느냐’로 이동해야 한다.

    스코프 — AI 에이전트 권한을 작업 단위로 잘게 쪼개기

    가장 먼저 손대야 할 영역은 Drive·SharePoint·RDB IAM 정책이다. 에이전트가 ‘고객사 A사 계약서 검토’라는 작업을 받으면, 그 티켓에 매핑된 폴더와 테이블만 read·write 가능하도록 동적 스코프를 부여한다. AWS Bedrock Agents는 IAM session policy로 호출 컨텍스트를 제한하고, model invocation logging을 KMS로 암호화해 보존한다. Azure AI Foundry와 Google Vertex AI Agents도 마찬가지로, 데이터가 고객 테넌트 안에서만 추론되고 Zero Data Retention 옵션이 명시된 매니지드 추론 엔드포인트를 표준으로 채택해야 한다.

    # LiteLLM Proxy 정책 헤더를 통한 에이전트별 스코프 강제 (개념 시뮬레이션 예시)
    # 실제 운영 환경에서는 IdP 그룹과 IAM role 매핑으로 대체
    curl -X POST http://litellm.internal/v1/chat/completions \
      -H "Authorization: Bearer $AGENT_TOKEN" \
      -H "X-Agent-Scope: drive:folder/CONTRACT-2026-Q4-A" \
      -H "X-JIT-TTL: 900" \
      -d '{"model":"claude-3-5-sonnet","messages":[{"role":"user","content":"A사 계약서 핵심 조항 요약"}]}'
    

    스코프는 ‘에이전트 ID’ 단위가 아니라 ‘작업 티켓 ID’ 단위로 끊어야 한다. 15분에서 30분의 짧은 TTL을 부여하고, 만료 후에는 자동 폐기되도록 설계한다. 동일 에이전트가 다음 작업을 받을 때마다 새로운 임시 자격증명이 발급되어야 한다. OAuth 범위를 한 번에 크게 부여하고 추후 축소하는 패턴은 사후 사고 대응을 거의 불가능하게 만든다. AI 에이전트 신원 분리 5단계로 푸는 즉시 폐기 체계에서 다루는 즉시 폐기 패턴이 이 단계의 출발점이다.

    정체성 — 업무·통합 단위로 서비스 계정을 분리

    스코프가 잘게 쪼개져도 그것을 ‘누구의 권한’으로 호출하느냐가 분명하지 않으면 사후 추적이 끊긴다. 같은 에이전트가 HR 통합, 영업 통합, 엔지니어링 통합을 모두 처리한다면, 감사 로그상 어떤 데이터가 누구의 권한으로 나갔는지 분리가 안 된다. IdP(Okta·Entra ID) 수준에서 에이전트용 전용 서비스 계정을 발급하고, 각 통합·각 프로젝트마다 별도의 workload identity를 두는 것이 표준 패턴이다.

    세션 토큰에는 호출 주체, 작업 티켓, 만료시각이 모두 기록되어야 하며, 이 정보는 LLM 게이트웨이로 흘러가 downstream 로그와 자동 조인된다. 사람이 사용하는 계정과 에이전트가 사용하는 계정은 명확히 다른 라이프사이클을 가져야 한다. 사람은 퇴사 시점에 계정이 폐기되지만, 에이전트 계정은 작업이 끝나는 즉시 토큰이 회수되어야 한다. MFA 한계와 우회 기법 대응에서 강조한 90일 제로트러스트 로드맵의 workload identity federation과 정기 키 회전 원칙을 그대로 적용하면 정체성 분리도 자연스럽게 따라온다.

    감사 — LLM 게이트웨이와 엔터프라이즈 DLP 결합

    세 번째 축은 양방향 로그다. OpenAI·Anthropic·구글 API로 나가는 모든 트래픽을 LiteLLM Proxy, Portkey, Cloudflare AI Gateway 같은 게이트웨이로 모아 토큰 단위로 검사한다. 프롬프트뿐 아니라 응답까지 동일 게이트웨이에서 로그로 보존해야, 사후에 “어떤 데이터가 어떤 형태로 외부 LLM에 전송됐는가”를 재현할 수 있다. Microsoft Purview DLP, Palo Alto Networks AI Security, Harmonic Security 같은 엔터프라이즈 DLP는 이 게이트웨이 앞단에서 PII·고객코드·내부 호스트명 패턴을 탐지한다.

    게이트웨이 배포 형태 핵심 기능 적합한 환경
    LiteLLM Proxy 자체 호스팅 OpenAI 호환 API, 다중 모델 라우팅, 토큰 단위 DLP 후크 멀티 클라우드, Kubernetes 친화
    Portkey SaaS + 자체 호스팅 Observability, fallback, A/B 라우팅, 정책 엔진 LLM 워크플로우 표준화
    Cloudflare AI Gateway SaaS DDoS 보호, 캐싱·캐시 무효화, Workers 통합 Cloudflare 생태계 종속 조직
    # LiteLLM 설정 발췌 (개념 시뮬레이션 예시)
    model_list:
      - model_name: claude-3-5-sonnet
        litellm_params:
          model: bedrock/anthropic.claude-3-5-sonnet-20241022-v2:0
          aws_region_name: ap-northeast-2
          aws_session_token: os.environ/JIT_AGENT_TOKEN
    litellm_settings:
      drop_params: true
      request_timeout: 30
      success_callback: ["prometheus", "s3"]
      failure_callback: ["slack"]
    general_settings:
      drop_params: true
      master_key: os.environ/LITELLM_MASTER_KEY
    

    응답을 로깅하지 않고 프롬프트만 수집하는 단방향 감사는 가장 흔한 안티패턴이다. 실제 데이터 유출이 발생해도 “외부 LLM 응답에 우리 사내 데이터가 포함돼 반환됐다”는 사실을 사후에 입증할 수 없다. 응답 로그까지 보존하되, retention 정책으로 30~90일 후 자동 만료·암호화 파괴를 설정해 GDPR·개인정보보호법 컴플라이언스도 함께 챙겨야 한다. LiteLLM과 Portkey 모두 S3·GCS·BigQuery로 로그를 스트리밍할 수 있으므로, 기존 SIEM 파이프라인에 그대로 편입시키는 것이 운영 부담을 줄이는 길이다.

    엔드포인트·네트워크 2·3차 방어선

    세 축이 1차 방어선이라면, 엔터프라이즈 브라우저와 EDR, CASB는 2·3차 방어선이다. Microsoft Edge for Business, Chrome Enterprise Premium, Prisma Access Browser에서 generative AI 사이트 카테고리를 분류하고, 개인 계정 로그인을 차단한다. CrowdStrike·SentinelOne 같은 EDR에서는 알려지지 않은 에이전트 하네스(AutoGPT 변형, 로컬 LLM 클라이언트 등) 설치 시 차단·경보를 발생시킨다. SaaS CASB(Microsoft Defender for Cloud Apps, Netskope)는 Drive 공유 링크가 AI 워크플로우로 넘어가는 흐름을 추적한다.

    이 레이어의 핵심 가치는 ‘우회 경로의 가시성’이다. 1차 통제에서 다루는 정식 승인 에이전트가 아니더라도, 직원이 자기 노트북에 로컬 LLM 클라이언트를 설치하거나 Shadow AI SaaS에 회사 이메일을 등록하는 순간을 잡아낸다. 단독으로 누설을 막지는 못하지만, 1차 통제에서 정의한 정상 트래픽과 비정상 트래픽을 구분하는 기준선이 된다. 또한 제로트러스트 NAC와 결합하면 디바이스 posture가 충족되지 않은 단말의 게이트웨이 호출 자체를 거부할 수 있어 1차 통제의 안전판 역할을 한다.

    벤더 거버넌스와 법무 검토

    기술적 통제와 별개로, AI 벤더를 하위 처리자(Sub-processor)로 계약서에 명시하고 Zero Data Retention 옵션을 의무화해야 한다. LLM API 호출 시 입력·출력이 벤더 학습에 사용되지 않는다는 조항, 사고 발생 시 72시간 내 통보 의무, audit log 제공 의무가 표준 조항으로 들어가야 한다. AWS Bedrock, Azure OpenAI Service, Anthropic Enterprise, Google Vertex AI는 모두 명시적인 ZDR 옵션을 제공하지만, 동일 모델을 호출하더라도 API 키 종류(예: 일반 API vs Enterprise 테넌트 키)에 따라 retention 정책이 달라지므로 운영팀과 법무팀이 함께 검토해야 한다.

    운영상 한계와 흔한 안티패턴

    현업에서 자주 보이는 다섯 가지 안티패턴을 정리하면 다음과 같다. 이 중 하나라도 빠지면 사후 사고 대응이 사실상 불가능해진다.

    안티패턴 실제 영향 올바른 패턴
    에이전트에 Drive 전체 읽기 OAuth 부여 후 축소 사후 어떤 폴더에 접근했는지 재현 불가 티켓 단위 Just-in-Time 스코프
    업무 효율만을 근거로 보안 검토 우회 Shadow AI 확산, 책임 소재 불분명 보안팀 승인 게이트 필수
    현업 부서 단독 AI 도구 결정 카탈로그 부재, 중복 도입 사내 AI 카탈로그 + 중앙 거버넌스
    프록시 없이 LLM API 직접 호출 토큰 단위 DLP, 비용 가시성 모두 상실 LLM 게이트웨이 표준화
    프롬프트 로그만 수집 응답 데이터 유출 입증 불가 요청·응답 양방향 로그 + retention

    비용 측면에서는 LLM 게이트웨이와 매니지드 추론 엔드포인트 도입에 따른 추가 인프라비가 발생한다. LiteLLM Proxy는 자체 호스팅 시 컨테이너 비용 수준이지만, 트래픽이 증가하면 Redis·Postgres 백엔드까지 운영해야 한다. Portkey, Cloudflare AI Gateway는 SaaS 요금제로 시작하지만, 대규모 로그 보존에는 비용이 선형으로 증가한다. Bedrock·Foundry·Vertex 자체에도 per-token 과금이 적용되므로, 스코프 최소화로 토큰 사용량을 통제하는 것이 곧 비용 최적화와 직결된다. 팀 간 협업 측면에서는 보안팀이 스코프 정책만 정의하고 에이전트 개발자가 이를 IaC로 자동화하는 RACI가 가장 충돌이 적다.

    지금 바로 해볼 것

    • 사내에서 운영 중인 AI 에이전트 인벤토리를 작성하고, 각 에이전트가 보유한 OAuth 스코프와 연결된 데이터 저장소를 매핑한다.
    • OpenAI·Anthropic·구글 API로 직접 호출되는 트래픽이 있는지 1주일간 네트워크 로그를 확인하고, 모두 LLM 게이트웨이로 강제 라우팅하는 방화벽 규칙을 추가한다.
    • LiteLLM Proxy 또는 Portkey를 1개 워크플로우에 한정해 파일럿 배포하고, 프롬프트·응답 양방향 로그가 S3 또는 SIEM으로 전달되는지 검증한다.
    • IdP에서 에이전트용 전용 서비스 계정을 발급하고, 기존 사람 계정과 분리된 그룹·정책으로 재배치한다.
    • 분기 1회 에이전트 권한 감사 절차를 만들어 사용하지 않는 스코프·만료된 토큰·퇴사자 연결 계정을 자동 폐기하도록 IaC에 반영한다.

    사내 AI 보안의 본질은 결국 ‘어디까지 누구의 권한으로 얼마 동안 데이터를 맡길 것인가’라는 질문으로 귀결된다. 원 스레드에서 다뤄진 현업 고민처럼, 차단 정책만으로는 더 이상 거버넌스를 설명할 수 없다. AI 에이전트 권한을 스코프·정체성·로그 세 축으로 동시에 쪼개고, 스코프·정체성·로그 3축 거버넌스를 바탕으로 최소 6대 세부 통제(동적 IAM, 전용 SA, 양방향 프록시, 토큰 DLP, 임시 자격증명 회수, 저장소 암호화)가 결합된 구조를 만드는 것이 데이터 유출 사고를 사후에 추적 가능한 상태로 끌어올리는 가장 현실적인 출발점이다.

    참고 원문

    이 기사는 다음 원문을 확인해 작성했습니다: r/AskNetsec — Ho do you let staff use AI without company data leaking out?