2026년 7월 28일자 보안 보도에 따르면 Anthropic의 Claude Mythos Preview 모델이 CryptanalysisBench 평가에서 HAWK-256에 대한 종단간 키 복구 공격을 구현하고 7라운드 AES-128 공격의 기존 학술 구현을 200배에서 800배까지 가속화한 것으로 나타났다.
- HAWK-256 종단간 키 복구 성공: 96코어 서버 기준 약 3시간 42분 예상 런타임의 구현 코드를 Anthropic이 공개함.
- 7라운드 AES-128 공격 가속화: 기존 학술 구현 대비 200배에서 800배까지 속도 향상을 달성함.
- 새 공격 표면 발견: HAWK 격자 구조에서 이전에 알려지지 않았던 대칭성을 자율적으로 식별함.
AI가 단순 보조 도구를 넘어 암호학 연구의 새로운 공격 표면을 자율적으로 발견하는 시대로의 전환이 가시화됨.
2026년 7월 28일 The Hacker News는 Anthropic의 Claude Mythos Preview가 양자내성 서명 알고리즘 HAWK-256에 대한 종단간 키 복구 공격을 유도해 CryptanalysisBench 평가에서 새로운 공격 발견 조건을 충족했다고 보도했다. 동일 모델은 7라운드 AES-128에 대한 기존 학술 공격을 200배에서 800배까지 가속화해 결과의 기술적 의미를 더했다. 이 두 결과는 AI가 암호 해석 분야에서 단순 보조 도구를 넘어 새로운 공격 표면을 자율적으로 발굴할 수 있음을 시사한다.
사건 개요: 클로드가 깬 두 가지 암호 과제
HAWK-256 종단간 키 복구 공격 성공
Anthropic의 Claude Mythos Preview는 HAWK-256 서명 알고리즘에 대한 종단간 키 복구 공격을 구현해 96코어 서버에서 약 3시간 42분이 예상되는 종단간 런타임을 달성했다. CryptanalysisBench는 참조 구현을 공개하지 않고 AI 모델이 수학적 해석을 통해 새로운 공격 경로를 설계하도록 요구하기 때문에 이 결과는 단순 코드 생성 성능을 넘어선 사례로 평가된다.
7라운드 AES-128 공격 가속화 성과
동일 모델은 7라운드 AES-128에 대해 알려진 학술 공격 구현을 200배에서 800배까지 가속화했다. 이는 기존 학술 구현을 더 효율적인 알고리즘과 병렬화로 재구현한 결과로 해석되며, AI가 기존 학술 결과를 빠르게 최적화하는 능력도 함께 입증한 것으로 분석된다.
Anthropic과 CryptanalysisBench의 평가 결과
Anthropic은 HAWK-256 공격 구현 코드를 공개해 검증 가능성을 높였으며, CryptanalysisBench 측은 이 결과가 벤치마크가 요구하는 새로운 수학적 공격 발견 조건을 충족한다고 판단한 것으로 보도되었다. 평가의 투명성 측면에서 코드 공개는 중요한 절차로 작용한 것으로 보인다.
CryptanalysisBench 평가 방식의 의미
벤치마크가 요구하는 새로운 수학적 공격 기준
CryptanalysisBench는 단순 암복호화 작업이 아니라 모델이 수학적 추론을 통해 기존에 문헌화되지 않은 공격 경로를 발견했는지를 측정하도록 설계된 벤치마크다. 참조 구현을 제공하지 않는 평가 구조상 모델은 자체적으로 수학적 구조를 분석하고 가설을 세운 뒤 검증해야 하므로 결과의 난이도가 매우 높게 설정되어 있다.
참조 구현과의 비교에서 드러난 기술적 함의
벤치마크가 참조 구현을 노출하지 않는다는 점에서 모델은 학술 문헌과 공개된 코드베이스에서 단서를 조합해 공격을 구성해야 한다. 이번 HAWK-256 결과는 격자 구조의 대칭성이라는 비교적 추상적인 성질을 출발점으로 삼아 종단간 키 복구까지 연결했다는 점에서 기술적 함의가 큰 것으로 평가된다.
HAWK-256 공격의 원리와 격자 대칭성
HAWK 서명 구조에서 발견된 미지의 대칭성
보도에 따르면 HAWK-256 공격은 격자 기반 서명 체계가 내부에 가진 대칭 성질 중 이전에 알려지지 않았던 부분을 악용한 것으로 설명된다. 격자 기반 암호는 일반적으로 Learning With Errors나 Short Integer Solution 같은 계산적 난제 위에 안전성을 둡니다. 구조 내부의 대칭성은 키 복구 공격의 새로운 경로가 될 수 있습니다. 이번에 식별된 대칭성은 CryptanalysisBench의 새로운 공격 발견 조건을 만족한 것으로 평가된다.
96코어 서버 기준 약 3시간 42분 예상 런타임
공격 구현은 96코어 서버에서 약 3시간 42분이 소요될 것으로 추정된다. 이 수치는 학술적 시연 규모를 상회하는 수준으로 보안 커뮤니티의 관심을 끌었다. Anthropic이 구현 코드를 공개했다는 사실은 후속 검증과 재현 연구를 촉진하는 요인으로 작용할 것으로 보인다.
AES-128 7라운드 공격 가속화 분석
200배에서 800배까지 속도 향상의 의미
7라운드 AES-128은 전 라운드 10라운드 공격이 아니라 축소 라운드 공격에 해당하며, 학계에서는 오랫동안 최적화된 구현이 보고되어 왔다. Claude Mythos Preview가 기존 학술 구현 대비 200배에서 800배라는 상당한 가속화를 달성했다는 것은 알고리즘을 재구현하거나 병렬화 전략을 크게 개선했음을 시사한다. 보도된 수치 범위가 넓은 점으로 미루어 공격 단계나 입력 분포에 따라 가속 비율이 달라진 것으로 추정된다.
기존 학술 공격 대비 효율성 변화
기존 학술 공격은 이론적 복잡도 분석과 실 구현 사이의 간극이 존재하는 영역이었다. 이번 가속화는 AI가 이론 분석을 실 구현으로 빠르게 전환할 수 있음을 보여주는 사례로, 보안 업계에서는 향후 암호 라이브러리 점검과 표준화 검증 과정에서 AI 기반 최적화 도구를 적극 활용해야 한다는 의견이 제기될 것으로 보인다.
| 평과 항목 | 대상 알고리즘 | 핵심 수치 | 의미 |
|---|---|---|---|
| 새 공격 발견 | HAWK-256 | 96코어 서버 약 3시간 42분 예상 | 격자 대칭성 악용 종단간 키 복구 |
| 공격 가속화 | 7라운드 AES-128 | 200배에서 800배 속도 향상 | 기존 학술 공격 구현 최적화 |
| 평가 명칭 | CryptanalysisBench | 참조 구현 미공개 | 새로운 수학적 공격 발견 능력 측정 |
| 모델 명칭 | Claude Mythos Preview | Anthropic 개발 | 구현 코드 공개로 검증 가능 |
보안 산업에 미치는 시사점과 대응 방향
양자내성 표준화 재평가 필요성
이번 결과는 NIST를 중심으로 진행된 양자내성 표준화 과정에서 안전성 평가 절차에 AI 기반 해석 도구를 정식 편입해야 한다는 논의를 촉발할 것으로 보인다. 다만 HAWK-256이 NIST 최종 표준으로 채택된 알고리즘인지, 평가 대상에 포함된 구체적 배경은 별도 확인이 필요한 영역으로 남아 있다. 안전성 재평가는 단정적 결론보다는 업계 협의를 통한 절차 보완 차원에서 접근할 필요가 있는 것으로 분석된다.
AI 기반 암호해석의 위협과 기회
위협 측면에서는 AI가 격자 구조 내부의 미묘한 대칭성을 빠르게 식별해 키 복구 공격으로 연결할 수 있다는 점이 부각됐다. 기회 측면에서는 동일한 역량을 활용해 표준화 단계에서 후보 알고리즘의 잠재적 약점을 사전에 점검하는 데 활용할 수 있다는 의견이 제시되고 있다. 결과적으로 AI는 공격과 방어 양쪽의 속도를 동시에 끌어올릴 가능성이 큰 것으로 보이며, 보안 조직은 양자내성 알고리즘과 기존 대칭키 알고리즘에 대한 정기적 AI 기반 재감사를 검토할 필요가 있다.
더 깊은 기술적 맥락은 Schneier on Security – Measuring LLMs Ability to Perform Cryptanalysis 글에서도 확인할 수 있다.
핵심 정리
- Claude Mythos Preview가 CryptanalysisBench에서 HAWK-256 종단간 키 복구와 7라운드 AES-128 가속화를 동시에 달성함.
- HAWK-256 공격은 격자 구조의 새로운 대칭성을 악용하며 96코어 서버에서 약 3시간 42분 예상 런타임을 보임.
- 7라운드 AES-128 공격은 기존 학술 구현 대비 200배에서 800배까지 가속화되어 AI 최적화 능력도 확인됨.
- AI가 자율적으로 새 공격 표면을 발굴하는 시대가 열렸으며 양자내성 표준화 재평가 필요성이 대두됨.