AI 모델이 암호체계 취약점을 드러내며, ‘양자 저항’ 전환 준비 속도가 시장의 새 변수로 떠오르고 있다.
이번 사례는 기존 검증을 통과한 알고리즘도 인공지능을 통한 ‘고속 크립토 분석’ 앞에서는 재평가될 수 있음을 보여준다.
AI, 60시간 만에 디지털 서명 취약점 발견
앤트로픽(Anthropic)은 이번 주 자사의 ‘Claude Mythos Preview’ 모델이 디지털 서명 알고리즘 HAWK의 보안 강도를 절반 수준으로 낮출 수 있는 공격을 찾아냈다고 밝혔다.
해당 분석에는 약 60시간과 10만 달러(약 1억4,406만 원)의 연산 비용이 투입됐다. 이는 2년간 두 차례 전문가 검증을 통과한 알고리즘을 무너뜨린 결과다.
디지털 서명은 특정 디지털 키를 보유한 주체가 메시지를 생성했음을 증명하는 기술이다. 비트코인(BTC) 거래를 포함해 온라인 결제, 웹 보안 인증 전반에 사용된다.
HAWK는 기존 서명이 ‘양자 컴퓨터’에 취약하다는 우려 속에서 차세대 표준 후보로 검토 중이었지만, 아직 실제 적용된 사례는 없다.
비트코인 영향은 제한적…하지만 경고 신호
현재 비트코인(BTC)과 이더리움(ETH)은 타원곡선 기반 서명을 사용하며, 이번 공격 방식의 직접 대상은 아니다. 또한 비트코인이 향후 채택할 계획인 대체 알고리즘에도 HAWK는 포함되지 않는다.
비트코인 업그레이드 제안 BIP-360은 이미 미국 국립표준기술연구소(NIST)가 표준화한 3가지 알고리즘을 포함해, 특정 방식이 깨지더라도 대응 가능한 구조를 채택하고 있다.
다만 문제는 ‘속도’다. 또 다른 제안인 BIP-361은 암호 공격 기술이 최대 20배까지 빨라지고 있다며, 양자 대응 전환 시기가 앞당겨지고 있다고 주장한다.
앤트로픽의 결과 역시 이러한 흐름과 일치한다.
암호 해독 비용 급감…HAWK 설계 장점 약화
앤트로픽은 HAWK의 일부 파라미터에서 키 복구 비용이 기존 2의 64승 연산에서 2의 38승 수준으로 낮아졌다고 설명했다.
더 큰 키는 여전히 안전하지만, 보안을 강화하기 위해 키 크기를 키울 경우 HAWK가 가진 효율성 장점이 대부분 사라진다.
회사는 지난 6월 해당 취약점을 개발자들에게 사전 공개했으며, NIST 커뮤니티와 협력해 결과를 공유했다.
AES·영지식 증명에도 영향…AI의 역할 확대
추가 연구에서는 업계 전반에서 사용하는 암호화 알고리즘 AES의 약화 버전에 대해 200~800배 빠른 공격 방법이 발견됐다.
특히 주목할 부분은 AI의 탐색 방식이다. Claude는 초기에는 AES 문제에 대해 “쉽지 않다”고 답했지만, 세 차례 추가 지시 후 3일 동안 10억 개 이상의 출력 토큰을 생성하며 개선된 공격을 찾아냈다.
검증에는 연구원 2명이 약 한 달을 소요했다.
반면, 롤업과 프라이버시 프로토콜에 활용되는 해시 함수 ‘포세이돈(Poseidon)’에 대해서는 10배 미만의 제한적 개선에 그쳤다.
양자 대비 경쟁, AI가 앞당긴다
시점도 의미심장하다. 프라이버시 코인 프로젝트 지캐시(Zcash)는 최근 양자 환경에서도 복구 가능한 새로운 ‘실드 풀’을 도입했다.
암호 시스템은 원래 인간 연구자들이 단계적으로 설계하고 검증해 왔지만, 이제는 AI가 그 속도를 앞지르며 ‘스트레스 테스트’를 수행하는 상황이다.
이번 사례는 양자 컴퓨터 자체보다도, ‘AI 기반 암호 분석’이 더 빠르게 보안 패러다임을 변화시킬 수 있음을 보여준다.
🔎 시장 해석
AI가 기존 암호 알고리즘의 취약점을 빠르게 찾아내며, 암호 안전성의 ‘검증 속도’ 자체가 새로운 리스크 요인으로 부상하고 있다. 특히 양자 컴퓨터 대비용으로 준비되던 차세대 알고리즘마저 AI에 의해 약화 가능성이 드러나며, 시장은 보안 패러다임 전환 시점을 앞당기고 있다.
💡 전략 포인트
단일 암호 방식 의존 구조는 점점 더 위험해지고 있으며, 멀티 알고리즘 및 업그레이드 유연성을 확보한 네트워크가 유리하다. 비트코인처럼 다양한 대체 알고리즘을 고려하는 구조는 중장기 안정성 측면에서 긍정적이다. 향후 투자 관점에서는 ‘양자 저항 + AI 내성’ 두 요소를 함께 고려한 프로젝트 선별이 중요해질 전망이다.
📘 용어정리
디지털 서명: 거래나 메시지의 작성자를 증명하는 암호 기술
양자 저항 암호: 양자 컴퓨터 공격에도 안전하도록 설계된 암호 알고리즘
HAWK: 차세대 서명 후보 알고리즘 중 하나로, 이번에 AI로 취약성 발견
AES: 데이터 암호화 표준으로, 일부 약화 버전에 대해 AI 기반 공격 성능 개선 확인


