2880만건 클로드 교환, 앤스로픽이 의회에 의혹 제기

앤스로픽(Anthropic)이 알리바바($BABA)와 큐원(Qwen) 연계 운영자들이 허위 계정 약 2만5000개로 클로드(Claude)와 2880만건 이상 교환하며 모델 역량을 추출했다는 의혹을 미 의회에 제기했다.

앤스로픽은 6월 10일 팀 스콧(Tim Scott) 미 상원 은행위원장과 엘리자베스 워런 민주당 간사에게 보낸 서한에서 이같이 주장했다. 로이터(Reuters)는 해당 서한을 확인해 보도했다.

서한에는 알리바바와 큐원에 연계된 운영자들이 4월 22일부터 6월 5일까지 클로드와 2880만건 이상의 교환을 생성했다는 내용이 담겼다. 앤스로픽은 이들이 거의 2만5000개에 이르는 허위 계정을 사용했다고 주장했다.

앤스로픽이 문제 삼은 방식은 ‘증류 공격’이다. 모델 증류는 성능이 더 뛰어난 AI 모델의 출력값을 이용해 더 작거나 저렴한 모델을 학습시키는 기법이다.

앤스로픽은 2월 23일 자사 블로그에서 모델 증류 자체는 합법적이고 널리 쓰이는 학습 방법이라고 설명했다. 다만 경쟁사가 허위 계정과 우회 접속으로 특정 모델의 고급 역량을 추출하는 행위는 약관 위반과 보안 문제에 해당할 수 있다고 밝혔다.

당시 앤스로픽은 딥시크(DeepSeek), 문샷AI(Moonshot AI), 미니맥스(MiniMax) 등 중국 AI 연구소 3곳이 약 2만4000개 허위 계정으로 클로드와 1600만건 이상 교환했다고 주장했다. 이번에는 알리바바와 큐원에 연계된 운영자들을 지목하며 제시한 계정 수와 교환 건수가 더 늘었다.

미 상원 은행위원회는 6월 11일 ‘AI와 아메리칸 드림: 혁신, 가격 접근성, 미국 우위 촉진’을 주제로 청문회를 열었다. 위원회는 AI가 소비자 보호와 금융서비스, 국가안보, 대중국 기술 경쟁에 걸친 문제라고 설명했다.

알리바바는 5월 20일 항저우 알리바바 클라우드 서밋에서 큐원 3.7 맥스(Qwen 3.7-Max)와 자체 AI 칩, 에이전트형 클라우드 스택을 공개했다. 회사는 큐원 3.7 맥스가 장시간 다단계 작업에 맞춰 설계됐으며 내부 벤치마크에서 35시간 연속 실행과 1000회 이상의 도구 호출을 수행했다고 밝혔다.

이번 의혹과 크립토 시장의 직접적인 연결점은 확인되지 않았다. 다만 블록체인 인프라와 거래 자동화 도구에서도 코드 생성 AI와 보안 모델이 활용되고 있다.

본지는 앞서 클로드가 비트코인(BTC) 지갑 복구 프로그램의 버그를 찾아낸 사례를 전했다. 클로드는 비트코인 암호체계를 침입한 것이 아니라 복구 도구의 코드 결함을 찾아 지갑 복구를 도왔다.

증류 공격을 둘러싼 논쟁은 AI 모델의 개방 범위로도 이어졌다. 워싱턴포스트(The Washington Post)는 7월 24일 엔비디아($NVDA), 마이크로소프트($MSFT), 메타($META) 등 미국 기술기업들이 오픈 AI 모델 제한에 반대하는 공개서한에 참여했다고 보도했다.

액시오스(Axios)는 7월 27일 다리오 아모데이(Dario Amodei) 앤스로픽 CEO가 오픈웨이트 AI 모델의 전면 금지를 지지하지 않는다고 밝혔다고 전했다. 오픈웨이트 모델은 가중치를 공개해 사용자가 직접 내려받아 수정하거나 실행할 수 있는 AI 모델이다.

이번 사안은 법적 판단이 내려진 사건이 아니라 앤스로픽이 의회에 제출한 서한을 통해 제기한 의혹이다. 알리바바는 로이터의 논평 요청에 즉각 답하지 않았다.