구글에서 선호하는 출처로 추가
앤트로픽 “클로드 추론 토큰 추출량 90~99% 감소”…초기 성과
서지우 기자
토포AI로 이 기사 더 깊이 읽기
앤트로픽은 클로드에 새 방어 조치를 적용한 뒤 증류 목적으로 추출된 추론 토큰이 이전보다 90~99% 줄었다고 밝혔다. 회사는 이를 초기 성과로 설명하며 방어 효과가 얼마나 지속될지는 알 수 없다고 했다.
앤트로픽은 12일 연구 글에서 최근 몇 달간 적용한 대응책을 공개했다. 증류 공격은 다른 모델의 답변과 추론 과정을 대량으로 수집해 원 개발자의 허가 없이 자체 모델을 학습시키는 방식이다.
회사는 추론 기록이 증류에 유용한 자료라고 보고 접근 경로를 제한하고 추출 시도를 탐지하는 조치를 함께 적용했다. 클로드 페이블 5.1과 오퍼스 5.5에는 대화 맥락을 보존하는 기능을 도입했다. 2026년 8월 31일 이후 만든 API 계정은 이전 대화 내용을 수정할 수 없으며, 일부 모델의 추론 기록은 보안 수준이 낮은 이전 모델이 읽지 못하도록 했다. 소넷 5.5의 추론 기록은 요청을 보낸 조직만 볼 수 있다.
탐지에는 두 단계 분류기를 사용한다. 앤트로픽은 내부·외부 레드팀 시험을 거친 뒤 오탐률이 0.1% 미만이라고 밝혔다. 이 분류기는 소넷 5.5, 오퍼스 5·5.5, 페이블 5·5.1에 적용됐다.
반복적으로 추론 기록을 추출하려는 계정에는 이용량 제한을 강화하고 시도가 이어지면 차단한다. 증류를 포함해 오탐률이 0.1% 미만인 특정 분야의 차단 요청에는 9월 24일부터 요금을 다시 부과했다.
앤트로픽은 증류 관련 계정 수만 개를 차단했으며 일부는 활동을 시작한 지 2시간이 지나기 전에 막았다고 밝혔다. 차단 뒤에도 추론 토큰 추출량은 이전보다 10~100배 낮게 유지됐고, 일부 날짜에는 측정하기 어려울 정도로 적었다고 설명했다. 다만 정교하고 지속적인 우회 시도는 아직 겪지 않았다고 밝혔다.
방어 조치에는 비용도 따른다. 앤트로픽은 증류 목적 이용에서 발생할 수 있었던 상당한 매출과 수조 개 토큰 규모의 유료 트래픽을 포기했다고 밝혔다. 정상 요청도 0.1% 미만의 비율로 잘못 차단될 수 있으며 이 경우에도 이용자는 요금을 낸다. 일부 개발자는 ‘보존된 사고’ 기능에 맞춰 연동 방식을 바꿔야 한다.
앤트로픽은 공격자들이 자사 API뿐 아니라 제3자 클라우드와 다른 추론 서비스로 트래픽을 분산한다고 밝혔다. 이에 모델 개발사와 플랫폼이 가짜 계정을 찾아 차단하는 데 협력해야 한다고 주장했다.
댓글 0
불러오는 중…