[태그:] 보안 거버넌스

  • AI 리포트 폭주에 멈춘 구글 OSS 버그바운티 — 버그바운티 트리아지를 다시 그려야 하는 이유

    AI 리포트 폭주에 멈춘 구글 OSS 버그바운티 — 버그바운티 트리아지를 다시 그려야 하는 이유

    핵심 요약

    • Google은 2026년 10월 1일자로 Open Source Software Vulnerability Rewards Program(OSS-VRP)을 동결했으며, 2027년 1분기 중 업데이트를 제공하겠다고 공지했다.
    • 공식 사유는 ‘자동화 제출의 급격한 증가와 그중 대다수가 유효하지 않다’는 것으로, X(구 트위터)와 프로그램 공식 웹사이트에 동시에 게시되었다.
    • 내부적으로는 Google 엔지니어와 오픈소스 메인테이너들이 AI가 생성한 무효 리포트와 할루시네이션을 포함한 제출물에 압도당했다고 Tom’s Hardware가 보도했다.

    버그바운티 프로그램의 신뢰는 ‘누가 제보했느냐’가 아니라 ‘제보가 재현 가능한가’에서 시작되며, AI가 제출을 늘리면 늘릴수록 검증 가능한 증거를 요구하는 트리아지 파이프라인의 자동화가 핵심 경쟁력이 된다.

    목차

    2026년 10월 1일, Google은 Open Source Software Vulnerability Rewards Program(OSS-VRP)을 일시 동결한다고 X와 공식 웹사이트에 동시에 공지했다. 2027년 1분기 업데이트 전까지 신규 접수는 받지 않으며, 공식 사유는 “자동화 제출의 급격한 증가와 그중 대다수가 유효하지 않다”는 한 줄이다. TechCrunch의 보도에 따르면 내부적으로는 LLM 환각 리포트와 자동화 스캐너 중복에 엔지니어와 메인테이너가 압도당한 것으로 전해진다. 버그바운티 트리아지 운영자 입장에서 이 사건은 단순한 일시 중단이 아니라, 외부 신호에 의존하는 보상 체계 자체의 구조적 결함을 드러낸 사건으로 읽힌다.

    AI 노이즈가 기존 트리아지를 무력화한 배경

    2025년 사이버보안 전문가들이 경고한 “AI 슬롭”이 1년 만에 현실화했다. LLM이 임의 저장소에서 grep으로 패턴을 긁어 그럴듯한 익스플로잇 시나리오를 작성해 제출하는 흐름이 늘었다. 자동화 스캐너 한 대가 하루 수백 건을 던지면 사람 1차 필터에 주당 수십 시간이 소진된다. Google 엔지니어뿐 아니라 메인테이너 개인의 알림 채널까지 무효 리포트로 채워지면서, 진짜 취약점 신호가 묻히는 부작용이 발생했다.

    가장 큰 문제는 그럴듯함이다. 기존 트리아저는 ① 재현 단계 논리성, ② 코드 스니펫 의존성 참조, ③ 영향 버전 표기 정확성을 본다. LLM 리포트는 ①과 ③에서 그럴듯한 문장을 만들어내 숙련 엔지니어의 직관에 의존하던 1차 게이트를 무력화한다. 자동 파서 없이 사람이 1차 필터를 맡은 팀은 결국 마비된다. 필자가 현업에서 비슷한 패턴을 겪어본 바로는, 트리아지 큐가 무효 리포트로 넘쳐나면 우수 리포터가 자발적으로 떠나면서 생태계 신뢰가 빠르게 훼손된다.

    실무 대응 1 — PoC 재현 가능성을 강제하는 입력 게이트

    가장 먼저 손대야 할 곳은 리포트 입력 단계다. JSON Schema로 템플릿을 강제하고 environment.image_digest, steps[].command, logs.snippet 같은 필드를 필수화한다. GitHub Actions에서 pip install jsonschema 후 jsonschema.validate(instance=payload, schema=schema)로 자동 검증하고, 형식 미달은 제출자에게 어떤 필드가 빠졌는지 명시하면서 reject한다.

    재현 단계 검증에는 CodeQL과 Semgrep을 쓴다. 첨부 스니펫이 semgrep --config p/security-audit 규칙에 위배되거나, CodeQL DB에서 실제로 import되는 심볼이 아니라면 “재현 불가” 플래그를 단다. 필자 경험상 이 단계에서 노이즈의 60~70%가 자동으로 걸러진다. 핵심은 사람의 시간을 들이기 전에 기계적으로 검증 가능한 항목을 끝까지 자동화하는 것이다. 검증 로직이 끝나면 그 결과만 사람 큐로 흘려보낸다.

    실무 대응 2 — 평판 점수와 쿨다운으로 저품질 제출 격리

    재현 강제만으로는 부족하다. 동일 작성자가 형식만 맞추고 무의미한 시나리오를 반복 제출하는 패턴은 별도 시스템으로 다뤄야 한다. Redis에 reporter:{id}:score와 reporter:{id}:last_submission_at을 두고, 채택률·재현 성공률·도메인 전문성 가중치를 조합해 0~100 사이 평판 점수를 산출한다. 일정 점수 이하의 제출은 수동 검토 대기열로 강제 이동시키고, 반복 저품질 제출자에겐 24시간→72시간→7일 점진적 쿨다운을 적용한다. 이 로직은 수십 줄로 끝나지만 운영 효과는 크다.

    Trivy로 컨테이너 이미지 스캔을 돌리는 환경이라면 trivy image --severity HIGH,CRITICAL 결과를 PoC 첨부로 강제해 단순 LLM 환각을 자연 탈락시킨다. 컨테이너 환경이 없는 팀은 OWASP Dependency-Check로 의존성 CVE 매칭을 PoC에 포함시키는 방식으로 동일한 효과를 낼 수 있다. 두 도구 모두 무료·오픈소스라 도입 마찰이 작다.

    실무 대응 3 — LLM 보조 트리아지, 사람 게이트는 유지

    자동 채택은 절대 금지다. LLM은 1차 분류·클러스터링만 맡기고 최종 판정은 사람이 한다. sentence-transformers(all-MiniLM-L6-v2)로 리포트를 임베딩한 뒤 기존 접수 리포트와 코사인 유사도 0.85 이상을 자동 클러스터링하고, 각 클러스터에서 첫 번째 리포트만 사람 검토 큐로 보낸다. 코드 패턴은 git log -p로 추출한 diff를 CodeQL로 분석해 취약 함수 시그니처가 일치하는지 확인한다. 이 단계의 목적은 사람 큐에 들어오는 항목 수를 70% 이상 줄이는 것이다.

    사람 검토 단계에선 k8s NetworkPolicy로 격리한 샌드박스 컨테이너에 PoC를 실제 실행한다. policyTypes: Ingress,Egress 기본 차단 후 명시적으로 필요한 이미지만 화이트리스트로 추가하고, 런타임은 gVisor나 firecracker로 샌드박싱한다. 결과를 리포트에 자동 첨부하면 리뷰어가 5분 안에 판정할 수 있다. 실무에서 가장 흔히 놓치는 함정은 모델 자체의 환각이다. 분류 결과는 신뢰하되 최종 결정 근거를 사람이 작성한 코멘트로 남겨야, 추후 오탐 분석 시 모델 편향을 추적할 수 있다.

    클러스터링 임계값을 너무 낮게 잡으면 진짜 신규 취약점이 묶여 사라질 수 있다. 첫 2주는 0.9 이상으로 보수적으로 시작하고, 오탐률을 분기 단위로 모니터링하며 조정하는 게 안전하다. 공개 가능한 KPI는 자동 차단 비율·평균 트리아지 시간·오탐률이며, 비공개 운영하더라도 분기 요약은 참가자에게 공개해 신뢰를 유지한다.

    거버넌스 재편 흐름과의 연결

    이번 동결은 단독 사건이 아니다. 에이전트 거버넌스 사례가 외부 심판의 한계를 드러낸 것처럼, 버그바운티도 외부 참가자 신호에 의존하는 한 모델이 만들어낸 노이즈에 구조적으로 취약하다. AI가 정책·보안 영역으로 깊이 침투할수록, 커뮤니티 자체의 통제 장치가 없으면 같은 패턴이 다른 프로그램에서도 반복된다. 2027년 1분기 구글 업데이트 전까지 현업 팀은 버그바운티 트리아지 현대화에 집중해야 할 시점이다.

    쟁점 정리

    • 입력 게이트: JSON Schema로 리포트 형식을 강제하고 CodeQL·Semgrep으로 재현 불가능 리포트를 1차 차단한다. 사람이 보기 전에 기계 검증 항목을 끝까지 자동화하는 게 핵심이다.
    • 평판·쿨다운: Redis 기반 평판 점수, IP/계정 단위 쿨다운, Trivy/OWASP Dependency-Check로 PoC 실질성을 강화한다. 신규 리포터 진입을 막지 않으면서 저품질 반복만 격리하는 균형이 중요하다.
    • LLM 보조 트리아지: 임베딩 클러스터링과 샌드박스 동적 검증을 결합하되, 자동 채택은 금지하고 사람 검토 게이트를 반드시 유지한다. 임계값은 보수적으로 시작해 오탐률을 분기 단위로 조정한다.
    • 거버넌스: AI가 만든 노이즈는 단일 프로그램의 문제가 아니라 외부 신호에 의존하는 보상 체계 전체의 구조적 과제다. 공개 KPI로 신뢰를 유지하면서 통제 장치를 마련해야 한다.

    자주 묻는 질문

    Q. 자동화 도구 도입 비용이 부담되는 소규모 팀은 어디서부터 시작해야 하나?

    JSON Schema 기반 리포트 템플릿 강제(엔지니어 1명이 하루면 구축), Semgrep 무료 규칙 세트로 코드 스니펫 자동 검증, Trivy로 PoC 첨부 강제 — 이 세 가지만으로 노이즈의 상당 부분이 1차로 걸러진다. 컨테이너 환경이 없으면 OWASP Dependency-Check로 의존성 CVE 매칭을 PoC에 포함시키는 방식이 차선이다.

    Q. 평판 시스템이 기존 우수 리포터에게 불이익을 주지 않으려면?

    신규 리포터도 검증된 제출 2~3회면 충분히 오를 수 있게 설계한다. 핵심은 “처음이 낮다”가 아니라 “저품질 반복이 누적되면 강등된다”는 방향이다. 강등 임계값과 회복 조건을 사전에 명시해 예측 가능성을 높여야 한다.

    Q. 샌드박스 동적 검증을 안전하게 구성하려면?

    별도 네임스페이스에 NetworkPolicy로 모든 Ingress/Egress를 기본 차단하고 필요한 이미지만 화이트리스트로 추가한다. CRI 런타임은 gVisor나 Kata Containers로 격리하고, 호스트 디렉토리는 read-only로 마운트한다. PoC 실행 로그는 감사 추적용으로 보존한다.

    참고 원문

    이 기사는 다음 원문을 확인해 작성했습니다: TechCrunch — Google froze its open source bug bounty program due to a ‘significant rise’ in AI submissions