클로드 미토스가 HAWK를 꺾고 AES-7을 갉아먹다: 앤트로픽, 자율 암호 연구 성과 발표

Anthropic은 Claude Mythos Preview를 암호학적 기본 요소에서 반자율 에이전트로 실행하여 다음과 같은 결과를 얻었습니다: HAWK-256의 effective keysize가 2^64에서 2^38로 감소, AES 7라운드 공격이 ×200에서 ×800으로 가속화, LEA 13라운드 키 복구가 한 시간 이내에 가능해졌습니다. 또한 OpenSSL과 wolfSSL에 대한 두 개의 실제 CVE가 발견되었습니다. 비용: 주제당 약 100,000 달러의 API 비용.

사실

Anthropic은 2026년 7월 28일 Claude Mythos Preview(Opus가 아님)를 반자율 에이전트로 사용하여 암호학적 기본 요소를 분석한 연구 보고서를 발표했다. 감사 대상에는 포스트퀀텀 스키마, 고전 블록 암호화 및 해시 함수가 포함된다:

• HAWK(포스트퀀텀 서명, NIST 후보) - effective keysize가 절반으로 줄어들고, HAWK-256에 대한 공격 비용이 2^64에서 2^38로 감소. 2026년 6월 NIST 및 스키마 저자들과 협조.
• AES-128(7라운드 축소) - 최신 기술 대비 200~800배 빠른 공격, guess requirement 제거.
• LEA(Lightweight Encryption Algorithm, 13라운드) - 2^30개 미만의 평문 암호화로 키 복구 가능, 데스크톱에서 1시간 이내 실행.
• Serpent-128(6라운드) - full key-recovery 공격 확장.
• 기타 감사 대상: Salsa20, Poseidon, SHA-1.

동시에 두 개의 실제 CVE가 프로덕션 라이브러리에 보고됨:

• OpenSSL의 CVE-2026-45445
• wolfSSL의 CVE-2026-5194

분석 - 에이전트가 실제로 하는 일

설정은 중요하다: 클로드가 단독으로 하룻밤 만에 AES를 "깨는" 것이 아니다. 반자율적 방법론 - Python 스캐폴딩, 수학 CAS인 Sage, 출판된 암호학 문헌 접근. 인간은 프레임워크를 짜고 재시도하며 방향을 제시한다. 보고서에서 가장 솔직한 문구 중 하나: "모델은 해결 불가능하다고 생각해서 시도조차 하지 않는다" - 모델이 스스로 포기하지 않도록 적극적으로 밀어붙여야 한다.

비용과 기간이 실상을 보여준다:

• HAWK: 에이전트 약 60시간, API 비용 약 100,000$
• AES: 에이전트 약 3일, API 비용 약 100,000$
• 인간 검증: 수백 시간; "두 명의 연구자가 해당 방법이 옳다는 확신을 얻기까지 거의 한 달이 걸렸다"

해석: 기계는 plausible한 후보를 제시하지만, humans는 그것이 옳은지 증명해야 한다. "AI가 AES를 깼다"는 buzzword에서 멀리 떨어져 있으며, 지치지 않고 비싸며 감시가 필요한 포스트닥 인턴에 가깝다. 하지만 실제로는 유의미한 결과를 찾는다.

공격 대상 라운드(AES 7라운드, LEA 13라운드, Serpent 6라운드)는 축소 버전 - 학문적 암호해독에서 표준 연습이다. 실 운영 AES-128은 10라운드: 발표된 취약점은 내일의 TLS를 무너뜨리지 않는다. 그러나 7라운드에서 200~800배 성능 향상은 출판 가능한 방법론적 발전이며, 보고서는 동료 검토를 통과했다.

반면 HAWK의 경우, 표준화 전 2^64에서 2^38로 후보 포스트퀀텀 스키마의 보안성을 떨어뜨리는 것은 NIST의 결정에 직접 영향을 미치는 결과다 - 2026년 6월 협조로 이어졌다.

변화하는 점

세 가지 구체적 변화:

1. 암호학적 책임 있는 공개가 새로운 단계에 접어들었다. Anthropic은 결과를 미국 정부 및 산업 파트너들에게 사전 전달했다고 밝혔다. 암호학 팀은 공격자 위협 모델뿐 아니라 감사 threat model에도 LLM 에이전트를 통합해야 한다.

2. 주제당 비용(~100k$)은 취미 사용자를 배제하고 연구소 수준으로 문턱을 높인다 - 하지만 이 연구소에는 방어 벤더뿐 아니라 정보기관도 포함된다. 표준화되지 않은 스키마에 유의해야 한다.

3. 운영 AES-128은 여전히 안전하다. 이번 주말에 TLS 구성을 변경할 필요 없다.

지금 해야 할 일

**

지금 당장 해야 할 일

• 포스트퀀텀 표준화(NIST)를 모니터링 중이라면 HAWK 보고서를 읽고 이 스키마에 베팅하기 전에 신중히 검토하라.
• CVE-2026-45445(OpenSSL)와 CVE-2026-5194(wolfSSL)를 벤더 advisory에 따라 패치하라.
• 암호학자라면 paper에서 스캐폴딩과 프롬프트를 자세히 살펴보라 - 비용은 비싸지만 재현 가능하다.
• DSI라면 다음 threat cycle에 "LLM 에이전트를 통한 암호 감사"를 통합하라. </ENCADRE]