AI 환각이 만든 가짜 SQLite 취약점, Critical CVE로 등록되다: 위협 정보 신뢰성에 대한 경고

사건 개요: GitHub 저장소에서 NVD, CISA ADP까지

2026년 8월 초, GitHub에 공개된 신규 저장소가 SQLite 관련 취약점 6건을 신고했고 미국 국가취약점데이터베이스인 NVD(National Vulnerability Database)와 미국 사이버보안청 부가 정보 체계인 CISA ADP가 이를 받아들여 Critical 등급으로 분류한 것으로 보도되었습니다. 일반적으로 신규 취약점 보고는 해당 프로젝트의 공식 보안 채널 또는 신뢰할 수 있는 보안 연구자를 통해 이뤄지지만, 이번 사례는 저장소 자체의 신뢰 이력이 짧아도 자동화된 분류 파이프라인이 통과시킬 수 있다는 점을 드러냈습니다.

GeekNews 원문은 이 사건을 AI 환각으로 만들어진 허위 보안 보고가 공식 데이터베이스에 진입한 사례로 평가했습니다. 위협 인텔리전스를 자동 수집해 운영하는 조직은 결과적으로 검증되지 않은 정보를 우선순위가 높은 위험으로 받아들였다는 점에서 파급 효과가 적지 않습니다.

검증 결과: AddressSanitizer로 확인한 PoC의 실제 동작

허위 여부를 가리기 위해 커뮤니티는 공식 SQLite 저장소에서 최신 소스를 받아 Docker 컨테이너 환경에서 빌드한 뒤 AddressSanitizer를 활성화한 상태로 PoC(Proof of Concept, 개념 증명 코드)를 실행했습니다. AddressSanitizer는 메모리 오류, 버퍼 오버플로우, use-after-free 등을 탐지하기 위한 도구로 SQLite와 같이 C로 작성된 프로젝트의 취약점을 검증할 때 자주 사용됩니다.

실행 결과 6건의 PoC는 실제 메모리 손상을 유발하지 못했으며, 일부는 정상 실행되어 의도한 익스플로잇 조건이 성립하지 않았고 나머지는 구문 오류 또는 JSON 파싱 단계에서 실패한 것으로 나타났습니다. 즉, 보고서에 적힌 시나리오는 재현되지 않았으며 메모리 안전성 위반의 단서도 발견되지 않았습니다.

• 정상 실행: 입력값이 정상 범주로 처리되어 익스플로잇 조건 자체가 발생하지 않음
• 구문 단계 실패: 파서 단계에서 오류가 발생해 실행 자체가 중단됨
• JSON 파싱 실패: PoC에 포함된 페이로드가 JSON 파서를 통과하지 못해 무력화됨

AI 환각과 공식 취약점 데이터베이스의 신뢰성 문제

최근 대형언어모델은 실제 존재하지 않는 라이브러리 함수, API 시그니처, CVE 번호를 그럴듯하게 만들어내는 경향이 있습니다. 보안 컨텍스트에서 이런 환각은 단순한 사실 오류를 넘어 위협 인텔리전스 체계 전체를 오염시킬 수 있습니다. NVD와 CISA ADP는 전 세계 기업과 정부 기관이 우선순위 결정과 패치 일정에 활용하는 핵심 데이터베이스이기 때문에 여기에 허위 정보가 등록되면 리소스 낭비와 잘못된 위험 대응으로 이어질 수 있습니다.

이번 사건은 AI가 생성한 보고서가 공식 취약점 데이터베이스에 등록되어 신뢰성 문제를 드러낸 사례로, 사람이 충분히 검토하지 않은 채 받아들이는 순간 공식 분류 체계까지 오염될 수 있음을 보여줍니다. 또한 CVE 발급 절차가 PoC의 재현 가능성이나 메모리 손상 여부를 충분히 확인하지 않은 채 심각도만 부여할 수 있다는 절차적 취약점도 드러냈다고 볼 수 있습니다.

취약점 검증 프로세스 개선 방향

신뢰성을 회복하기 위해서는 신고 단계에서 재현 가능한 PoC, 영향 버전, 디버거 출력 등 정량적 근거를 의무화하고, 분류 단계에서는 AddressSanitizer, Valgrind, 퍼즈 테스트 등 자동화된 도구를 활용한 다단계 검증을 도입할 필요가 있습니다. NVD와 CISA ADP 같은 공식 데이터베이스 운영 기관은 신고자 신뢰도와 무관하게 모든 제보를 동일한 검증 파이프라인에 통과시키는 방향이 바람직해 보입니다.

AI 기반 위협 정보에 대한 경계 심리

보안 담당자는 AI 도구가 정리해준 위협 정보라고 해서 그대로 신뢰하기보다, 최소한 공식 저장소에서 직접 빌드해 재현해보는 습관을 들이는 것이 안전합니다. 위협 인텔리전스 플랫폼도 AI 요약 결과를 단일 출처로 노출하지 않고, 원문 PoC와 재현 결과를 함께 제공하도록 설계되어야 할 것으로 분석됩니다.

교훈 및 시사점

이번 사례는 AI 환각이 만들어낸 가짜 보안 보고가 어떻게 공식 취약점 데이터베이스까지 침투할 수 있는지를 적나라하게 보여줍니다. 단일 출처에 의존하거나 자동 분류 시스템에만 의존하는 프로세스는 동일한 실패를 반복할 가능성이 높으며, 이를 막기 위해서는 사람이 직접 검증하는 단계가 반드시 포함되어야 합니다. 또한 위협 정보의 신뢰도는 출처의 권위가 아니라 재현 가능성과 영향 범위에 의해 결정되어야 한다는 점이 이번 사건의 가장 중요한 교훈으로 보입니다.

참고: GeekNews 원문, NVD(National Vulnerability Database)