앤트로픽 ‘클로드 미토스’ 무단 접근 의혹…협력업체 계정 보안 조사

앤트로픽이 고위험 사이버 공격에 악용될 수 있을 정도로 강력하다고 평가한 차세대 인공지능 모델 ‘클로드 미토스’의 무단 접근 의혹을 조사하고 있다. 제한된 시험 공개가 이뤄진 당일 일부 이용자가 비공개 온라인 포럼을 통해 해당 모델에 접근한 것으로 전해지면서, AI 보안 통제의 허점이 다시 도마에 올랐다.

블룸버그는 현지시간 화요일, 사안에 정통한 관계자와 확인한 문서를 인용해 소규모 이용자 집단이 앤트로픽의 ‘클로드 미토스’ 프리뷰 버전에 접근했다고 보도했다. 이들은 모델 공개 당일부터 지속적으로 사용해온 것으로 알려졌지만, 현재까지 사이버보안 목적의 공격 활동에 활용한 정황은 확인되지 않았다. 관련 내용은 스크린샷과 시연으로도 일부 뒷받침됐다고 전해졌다.

앤트로픽 대변인은 “서드파티 벤더 환경 가운데 하나를 통해 ‘클로드 미토스 프리뷰’에 대한 무단 접근이 있었다는 보고를 조사 중”이라며 “현재까지 활동이 해당 벤더 범위를 넘어섰거나 앤트로픽 자체 시스템이 영향을 받았다는 징후는 없다”고 밝혔다.

보도에 따르면 이번 접근은 앤트로픽 모델 평가 업무를 맡은 외부 계약업체 관계자의 계정을 통해 이뤄진 것으로 전해졌다. 여기에 인공지능 채용·훈련 스타트업 머코어(Mercor)에서 발생한 데이터 유출 정보가 결합되면서 모델 위치를 찾아낸 것으로 알려졌다. 블룸버그 소식통은 이 집단이 아직 공개되지 않은 다른 앤트로픽 모델에도 접근했을 가능성을 제기했다.

‘통제된 공개’ 전략, 공급망 보안 취약점 드러냈나

앤트로픽은 앞서 ‘클로드 미토스’의 코딩 능력이 소프트웨어 취약점을 찾고 악용하는 영역에서 ‘극소수 최고 숙련자를 제외한 인간을 능가할 수 있다’고 설명한 바 있다. 이런 이유로 배포는 ‘프로젝트 글래스윙(Project Glasswing)’ 아래 엄격히 제한됐다.

프리뷰 버전은 애플($AAPL), 아마존($AMZN), 시스코 시스템즈($CSCO), 크라우드스트라이크 홀딩스($CRWD), 구글, JP모건 체이스($JPM), 마이크로소프트($MSFT), 엔비디아($NVDA) 등을 포함한 약 40여 개 기관에 제공됐다. 목적은 각 기관이 자사 시스템에서 모델의 성능과 위험을 시험하고 보완책을 마련하도록 하는 데 있었다.

하지만 이번 사안은 ‘통제된 공개’가 실제로는 가장 약한 고리에서 무너질 수 있다는 점을 보여준 사례로 해석된다. 특히 직접적인 핵심 시스템 침투가 아니라 협력업체 계정과 유출 데이터 조합만으로 접근 경로가 열렸다는 점에서, 전통적인 경계형 보안만으로는 생성형 AI 시대의 위험을 막기 어렵다는 지적이 나온다.

사이버 기만 기술 기업 아칼비오 테크놀로지스의 최고경영자 람 바라다라잔은 실리콘앵글에 “이번 ‘클로드 미토스’ 유출 의혹은 정교한 공격이 필요했던 사안이 아니었다”고 말했다. 그는 “계약업체, URL 패턴, 그리고 첫날의 추정만으로도 가능했다는 점은 모델 역량이 문제가 되기 전부터 ‘통제된 배포’ 방식이 가장 약한 고리에서 실패했다는 뜻”이라며 “‘접근 통제’는 정책이지 구조가 아니며, 정책은 실패할 수 있다”고 짚었다.

미 정부 내부에서도 관심… AI 사이버보안 경쟁 더 치열해질 듯

‘클로드 미토스’를 둘러싼 접근 권한은 미국 정부 내에서도 민감한 쟁점으로 떠오르고 있다. 보도에 따르면 국가안보국(NSA)과 상무부 산하 AI 표준혁신센터는 이미 접근 권한을 확보했고, 재무부 역시 이용을 추진 중이다. 그만큼 이 모델이 방어와 공격 양쪽 모두에서 전략적 의미를 가진 도구로 평가받고 있다는 뜻이다.

현재 무단 접근에 성공한 것으로 알려진 이용자들은 탐지를 피하기 위해 공격적 작업은 자제한 것으로 전해졌다. 다만 실제 악용 여부와 별개로, 강력한 사이버보안 AI 모델이 통제 밖으로 벗어났을 수 있다는 가능성만으로도 시장과 기관의 경계심은 커질 수밖에 없다.

블랙 덕 소프트웨어의 팀 매키 소프트웨어 공급망 리스크 전략 총괄도 비슷한 시각을 내놨다. 그는 앤트로픽의 ‘클로드 미토스’ 홍보 방식 자체가 일종의 도전 과제처럼 받아들여졌을 수 있다고 봤다. 선택된 연구자들에게만 새 보안 모델을 제공하는 방식은 의미가 있지만, 배제된 외부 집단 입장에서는 최종 보고서를 기다리기보다 직접 접근을 시도할 유인이 커진다는 설명이다.

그는 특히 방어자 입장에서 보더라도, ‘클로드 미토스’처럼 강력한 적대적 모델에 대한 무단 접근 의혹만으로 불안감이 커질 수 있다고 지적했다. 보안 책임자들은 이번 사안을 AI 기반 사이버보안 역량을 조직 운영에 어떻게 접목하고, AI를 활용하는 공격자에 맞서 이를 얼마나 빠르게 확장할지 점검하는 계기로 받아들여야 한다는 의미다.

이번 사건은 최첨단 AI 모델의 성능 경쟁만큼이나 ‘누가, 어떤 경로로, 얼마나 안전하게 접근하느냐’가 중요하다는 점을 다시 보여준다. AI 산업이 고도화될수록 핵심 위험은 모델 그 자체보다 이를 둘러싼 공급망과 인증 체계에서 먼저 드러날 가능성이 커지고 있다.