AI 스타트업 앤트로픽(Anthropic)이 자사 AI 모델 '클로드(Claude)'를 악용한 사이버 첩보 사례를 공개하며 사이버 보안계에 큰 파장을 일으켰다. 앤트로픽은 이번 사건이 처음으로 공식 보고된 ‘AI 주도 사이버 첩보 캠페인’이라고 밝혔다. 특히 이 캠페인은 중국 정부의 지원을 받는 조직이 주도한 것으로 보이며, AI를 핵심 작전 도구로 활용한 점에서 기존의 공격 방식과 근본적인 차이를 보였다.

앤트로픽에 따르면, 공격자는 클로드와 클로드 코드(Code) 모델을 통해 전체 작전의 80~90%를 자동화했다. 네트워크 정찰, 취약점 분석, 공격 스크립트 생성, 내부 시스템 탐색, 데이터 탈취까지 대부분 과정을 AI가 수행했으며, 인간 해커는 전략적 의사 결정에만 관여했다. 이로써 한때 수십 명의 해커가 필요했던 정교한 침투 작전이 단 몇 시간 내에 AI 에이전트를 통해 실행될 수 있음이 확인됐다.

공격자는 클로드의 보안 장치를 교묘히 우회했다. 예컨대, 악성 지시를 해킹 테스팅처럼 위장하거나 명령을 소규모 하위 작업으로 분해해 책임 회피 구조를 구축했다. 결과적으로 AI 시스템의 판단 체계를 ‘사회공학’ 식으로 교란한 것이다. 앤트로픽은 이 같은 방식이 AI의 강화학습 알고리즘을 악용한 대표적 사례라고 분석했다.

이번 공격의 대상은 기술, 금융, 화학, 공공기관 등 약 30곳 이상으로 알려졌다. 실제 침투에 성공한 조직은 소수에 불과했지만, AI 기반 위협의 효과성과 파급력은 업계 전반에 경고 신호를 보냈다. 앤트로픽은 지난 9월 중순 이 활동을 탐지한 이후 해당 계정을 즉시 차단하고 오탐 방지를 위한 신규 분류기와 탐지 시스템을 배포했다고 덧붙였다.

특히 앤트로픽은 이번 사건을 통해 악성 행위자가 AI를 활용해 완전히 자동화된 침투 루프를 구성할 수 있다는 점을 강조하면서, 악의적 오용 위험이 더는 이론적 위협이 아니라고 지적했다. 기업들이 보안 운영 센터 자동화, 위협 탐지, 취약점 분석, 사고 대응 등에 AI를 방어 수단으로 적극 검토해야 한다는 조언도 내놓았다.

실제로 “이제 AI 시스템은 경험 많은 해커팀이 수일에 걸쳐 수행하던 작업을 몇 분만에 완수할 수 있는 수준에 도달했다. 이는 보안 기술의 패러다임 전환을 의미한다”고 앤트로픽 측은 밝혔다. 이어 “앞으로 더 많은 공격자들이 유사한 AI 기법을 적용할 것으로 예상되는 만큼, AI 플랫폼 개발자는 모델의 안전장치를 지속적으로 개선해야 한다”고 경고했다.

이번 보고서는 AI 기반 위협이 ‘가속화’ 단계에 진입했음을 보여주는 전환점으로 해석된다. 기술 기업들은 이제 AI를 단순한 자동화 수단이 아니라 중대한 보안 리스크 요소로 인식하고, 체계적인 대응 전략을 마련할 필요가 있다.