Amazon Bedrock으로 AI 피싱 메일을 잡는 법 – LLM 분류기 설계부터 AWS 보안 폐쇄 루프까지

피싱은 여전히 사이버 공격에서 가장 흔한 사회공학 전술 중 하나이며, 생성형 AI의 확산은 공격자의 문서 작성 능력과 자동화 규모를 동시에 끌어올렸다. 그 결과 보안팀은 더 이상 정적 패턴과 차단 리스트만으로는 메일 흐름을 통제하기 어려운 상황에 놓였다. AWS ML Blog는 이러한 변화의 해법으로 Amazon Bedrock 기반의 LLM 분류기와 AWS 보안 서비스 폐쇄 루프를 결합한 접근을 제시했다.

배경 – AI 피싱 위협의 현재

원문은 피싱이 사이버 공격에서 가장 흔한 사회공학 전술 중 하나라는 점을 분명히 하며, AI 생성 메일이 정교해진 만큼 보안팀의 이메일 시스템 관리 부담이 크게 늘었다고 설명한다. 공격자는 공개된 대규모 언어 모델과 오픈소스 인텔리전스(OSINT)를 결합해 표적의 언어·맥락·관계를 빠르게 파악하고, 그 위에 대량의 고유한 문구를 생성해 전통적인 시그니처 기반 탐지를 우회한다. 동일 발신 인프라에서 만들어진 메일이라 하더라도 문장 구조와 어휘가 메일마다 크게 달라 휴리스틱 엔진의 탐지 효율이 떨어진다는 분석이다.

한국 시장도 예외는 아니다. 공공기관과 금융권을 사칭한 국내어 메일은 물론, 영어 기반의 글로벌 협업 사칭 메일까지 증가하면서 사후 대응 비용이 빠르게 늘고 있다. AI 도구의 접근성이 높아질수록 피싱 제작의 문턱이 사실상 0에 가까워졌다는 점에서, 탐지 체계 역시 모델 기반의 의미 해석으로 보완할 필요가 커졌다.

아키텍처 – Bedrock LLM 분류기 중심 탐지 파이프라인

솔루션의 중심에는 Amazon Bedrock 기반의 LLM 분류기가 있다. 이 분류기는 메일 본문뿐 아니라 헤더, 발신자 메타데이터, 수신 경로 정보를 함께 입력받아 종합 평가한다. 단순한 본문 분류를 넘어 다층 프롬프트와 도구 호출(tool use) 체인을 구성해 IOC(지표), 정책 권고, 위험 점수 같은 구조화된 출력을 뽑아내는 것이 핵심이다. 이를 통해 SOC 분석가는 메일 1건당 해석 시간을 줄이고, 후속 자동화 시스템은 후속 액션을 기계적으로 수행할 수 있다.

다층 프롬프트와 툴 유즈 체인 설계

원문이 강조한 다층 프롬프트는 단일 질문으로 끝나지 않고, 1차 분류 → 2차 근거 추출 → 3차 정책 매핑 순으로 단계적 판단을 수행하도록 설계된다. 툴 유즈 체인은 모델이 IOC 추출 도구, URL 평판 조회 도구, 내부 위협 인텔리전스 조회 도구를 차례로 호출하도록 만들어 탐지 근거를 자동으로 보강한다. 이렇게 추출된 IOC는 다시 메일 헤더의 SPF, DKIM, DMARC 결과와 교차 검증되어 오탐 가능성을 낮추는 것으로 보인다.

메타데이터와 본문을 결합한 피처 엔지니어링

의미 기반 분류의 정확도를 높이기 위해서는 본문 외 메타데이터 피처가 함께 정규화돼야 한다. 원문은 발신자 메타데이터와 본문 정보를 함께 평가한다고 명시하며, 실무적으로 다음 표와 같은 구성으로 피처를 묶는 것이 일반적이다.

• 본문 피처: 제목, 본문 텍스트, HTML 본문, 첨부 파일 메타데이터
• 헤더 피처: From, Reply-To, Return-Path, Received 체인, Message-ID
• 인증 피처: SPF, DKIM, DMARC 결과, ARC 체인
• 컨텍스트 피처: 발신 도메인 평판, IP 평판, 과거 IOC 매칭 여부
• 링크 피처: URL 길이, 리디렉션 체인, 등록 도메인 연령

운영 자동화 – AWS 보안 서비스 폐쇄 루프

모델의 추론 결과를 실제 차단으로 연결하기 위해 AWS 보안 서비스와의 폐쇄 루프가 구성된다. SES로 수신된 메일은 Lambda 기반 워커에서 표준화돼 Bedrock 분류기로 전달되고, 그 결과는 다시 SNS 토픽을 통해 후속 자동화 함수로 전파된다. WAF와 IAM 정책 업데이트는 신규 차단 규칙과 IOC를 즉시 반영하며, SES의 수신 룰은 의심 메일에 대한 격리·태그 정책으로 전환된다.

SES·SNS·Lambda·WAF 연동 흐름

대표적인 흐름은 다음과 같다. 먼저 SES 수신 규칙이 메일을 S3 버킷에 원본 저장하고 Lambda를 트리거한다. 다음으로 Lambda가 메일 객체를 파싱해 Bedrock 추론을 호출하고, 그 결과를 SNS로 발행한다. 마지막으로 알림을 받은 자동화 함수가 WAF 규칙 업데이트, SES 수신 룰 변경, SOC 티켓 생성 등 후속 조치를 수행한다. 이때 AWS IAM 권한은 최소 권한 원칙으로 분리하고, 모든 호출은 CloudTrail에 기록하도록 설계한다.

라벨링·재학습·거버넌스 운영

원문은 신규 위협 샘플을 라벨링한 뒤 Bedrock에서 추론을 돌리고, 그 결과를 다시 AWS 보안 서비스로 흘려 보내는 폐쇄형 파이프라인이라고 설명한다. 운영 측면에서는 분석가가 검토한 결과를 라벨 데이터로 축적하고, 프롬프트 버전과 툴 정의를 코드형 자산으로 관리해 재현성을 확보해야 한다. 모델 자체를 미세조정할 경우 데이터 주권과 로그 보관 이슈가 함께 따라온다는 점을 사전에 설계에 반영할 필요가 있다.

도입 체크리스트와 한국 시장 적용 시사점

한국 조직이 이 패턴을 도입할 때는 통제 요구사항과 운영 성숙도를 함께 고려해야 한다. 특히 공공·금융 영역은 데이터 처리 위치와 로그 보관 기간에 대한 규제가 명확하므로, LLM 호출 경로와 로그 흐름을 처음부터 분리 설계하는 편이 효율적이다. 또한 AI 분류 결과를 SOC의 단일 판단 근거로 삼기보다, 기존 탐지 엔진의 보조 신호로 결합하는 방식이 오탐 리스크를 줄일 수 있는 방안으로 보인다.

데이터 주권과 로그 보관 이슈

한국에서 메일 본문과 헤더는 개인정보에 준하는 민감 정보로 분류될 수 있다. Bedrock 호출 시 본문 마스킹, 첨부 파일 분리 저장, 원문 암호화 같은 절차를 마련하고, 로그에는 원문이 아닌 해시와 메타데이터만 남기는 방식이 권장된다. 아울러 클라우드 리전 선택과 데이터 레지던시 계약 조건을 사전에 법무·정보보안 부서와 합의하는 것이 안전하다.

오탐 관리와 SOC 운영 연계

LLM 분류기는 확률적 출력을 제공하므로, 고위험으로 판정된 메일에 대해서만 사람의 확인을 거치는 단계형 워크플로가 효과적이다. 동일 메일에 대해 일관된 결과를 내는지 모니터링하고, 라벨 품질을 주기적으로 점검하는 거버넌스 절차가 병행돼야 안정적인 운영이 가능하다. 오탐률 지표는 탐지율과 함께 의사결정자에게 함께 보고되어야 임계값 조정이 합리적으로 이루어진다.

결론 – AI 시대 이메일 보안의 다음 단계

AI 피싱 위협이 산업화되는 상황에서, Amazon Bedrock 기반 LLM 분류기는 의미 기반 탐지와 구조화된 정책 출력이라는 두 가지 가치를 제공한다. 여기에 SES·SNS·Lambda·WAF로 구성된 AWS 폐쇄 루프를 더하면 위협 인텔리전스부터 차단 정책까지의 흐름이 한 사이클 안에서 닫히게 된다. 한국 보안 실무자 입장에서는 데이터 주권과 오탐 관리 같은 운영 디테일을 사전에 설계에 반영할 때, 이 아키텍처를 효과적인 보안 자동화 기반으로 전환할 수 있을 것으로 분석된다.