AI 오픈소스 유포 허브 ‘허깅페이스’, 악성 저장소 통해 244,000건 정보 탈취 공격 발생 – 플랫폼 보안 경각심 필요

사건 개요: OpenAI 모델을 사칭한 악성 저장소 등장

2026년 5월, 인공지능 모델 및 코드 공유 플랫폼 허깅페이스(Hugging Face)의 인기 프로젝트 1위에 ‘Open-OSS/privacy-filter’라는 악성 저장소가 등장하는 사건이 발생했다. 이 저장소는 OpenAI가 공개한 정식 ‘openai/privacy-filter’ 모델을 교묘하게 모방하여 제작된 것으로 확인되었다. 공격자는 프로젝트 명칭, 설명, 소스 코드 구조까지 원본과 정밀하게 동일하게 만들며 사용자들의 신뢰를 악용했다.

공격 경로 및 기법 분석: Rust 기반 정보 탈취 악성코드

조사 결과, 해당 악성 저장소의 실제 위협은 내장된 Rust 기반 정보 탈취 악성코드에 있었다. 공격자는 겉보기에는 정상적인 AI 모델 저장소처럼 위장해 Windows 사용자를 주 표적으로 삼았으며, 저장소 다운로드 시 악성코드가 자동으로 실행되도록 설계했다. Rust 언어로 작성된 악성코드는 탐지 회피 능력이 우수하여 기존 보안 솔루션의 우회를 노린 것이 특징이다. 오픈소스 협업 플랫폼의 낮은 접근 장벽과 신뢰 기반 운영 방식이 공격자에게 취약점으로 작용했다.

피해 현황 및 수치: 244,000건 다운로드 기록

악성 저장소가 공개된 이후 단기간에 약 244,000건이 다운로드되며 빠르게 확산되었다. 이는 허깅페이스 플랫폼에 대한 높은 신뢰와 방대한 이용자 기반을 노린 공격으로, 실제 정보 유출 및 피해 사례는 현재 조사 중이다. 대규모 확산 양상은 최신 공급망 보안 위협의 사실을 보여주며, AI 프로젝트 하나가 수십만 명에게 악성코드를 전달할 수 있음을 시사한다.

플랫폼 구조적 취약점과 검증 문제

허깅페이스는 전 세계 AI 연구자 및 개발자의 대표적인 모델, 코드 협업 허브로 자리잡았으나, 오픈소스 기반 특성상 저장소 생성 및 배포 과정의 검증은 상대적으로 미흡한 편이다. 이번 사례는 유명 공식 프로젝트를 표절해 신뢰를 빼앗는 것이 기술적으로 난이도가 낮고 효과적일 수 있음을 드러냈다. 이에 따라 플랫폼 자체의 사전 검토, 평판 체계 강화 등 구조적 보완의 시급함이 확인되고 있다.

공급망(Supply Chain) 공격 확산과 시사점

이번 허깅페이스 악성 저장소 사태는 소프트웨어 공급망에 대한 최신 위협 중 대표적인 형태다. 신뢰성 높은 플랫폼에 악성 요소를 침투시켜 이용자가 자발적으로 위험에 노출되는 점이 특징으로, 직접적 해킹보다 높은 효과를 낸다. AI 분야에서 오픈소스 모델에 대한 의존도가 커지므로, 모델 출처 검증, 디지털 서명, 자동화된 악성코드 검사 등의 기술적 안전장치 도입이 필요하다.

이용자와 플랫폼 모두를 위한 대응 방안

이용자는 허깅페이스 등에서 AI 모델이나 코드를 내려받기 전 반드시 공식 저장소 여부, 출처 신뢰성을 꼼꼼하게 확인해야 한다. 보안 솔루션을 최신 상태로 유지하고, 코드 실행은 가상환경(샌드박스)에서 먼저 확인하는 습관이 중요하다. 플랫폼 차원에서는 저장소 심사 프로세스 강화, 개발자 평판 시스템 개선, 그리고 악성 코드 탐지 자동화 도입 등 구조적 대응책 마련이 필요하다.

결론 및 향후 전망

24만 건이 넘는 악성 저장소 다운로드 사례는 허깅페이스 같은 AI 공유 플랫폼이 단순 기술 교류를 넘어 보안의 최전선임을 알린다. AI 기술 발전과 오픈소스 생태계의 성장이 맞물리면서, 보안 체계 역시 병행 강화되어야 한다. 이번 사례는 플랫폼 운영자와 이용자 모두에게 공급망 보안의 중요성을 다시금 일깨우는 계기가 될 전망이다.