구글에서 선호하는 출처로 추가
앤스로픽, 알리바바 연관 클로드 증류 시도서 교환 1억5100만건 관측
최윤서 기자
토포AI로 이 기사 더 깊이 읽기
앤스로픽이 클로드의 추론 기록을 무단으로 추출해 모델 학습에 이용하려는 사례를 공개했다. 회사는 알리바바와 연관된 활동에서 2026년 5~7월 1억5100만건이 넘는 교환을 관측했다고 밝혔다.
앤스로픽은 9월 위협 인텔리전스 보고서에서 2025년 12월부터 2026년 8월까지 확인한 악용 사례를 다뤘다. 공개된 교환 건수는 회사가 관측하고 귀속한 활동 규모다. 방어 조치 뒤 데이터 수집량이 90~99% 줄었다는 뜻은 아니다.
모델 증류는 한 모델의 응답을 모아 다른 모델을 학습하는 기법이다. 일반적인 학습 방법으로도 쓰이지만, 앤스로픽은 이번 사례를 허가되지 않은 계정과 우회 경로를 이용해 자사 서비스에서 데이터를 대규모로 추출한 행위로 설명했다. 증류 기법 자체와 서비스 약관을 위반한 무단 추출은 구분할 필요가 있다.
보고서에는 클로드 API의 추론 기록을 되살리려는 수법도 담겼다. API가 원문 추론 기록 대신 반환하는 서명을 저장한 뒤 새 세션에서 다시 제시해 기록을 얻으려는 방식이다. 앤스로픽은 교차 세션 재생 공격으로 일부 행위자가 추론 기록을 추출했다고 밝혔다.
앤스로픽은 계정 차단과 활동 패턴 분석 등 여러 대응책을 운용한다고 설명했다. 제품 차원의 조치로는 ‘보존된 사고’ 기능을 제시했다. 이 기능은 이전 대화의 사고 블록을 다시 사용할 때 서명과 앞선 대화 내용이 바뀌었는지 확인한다.
Fable 5.1 출시 안내에서 앤스로픽은 새 API 계정이 이전 사고 기록을 보존한 채 대화 맥락을 수동 편집할 수 없도록 했다고 밝혔다. 회사는 방어가 개선되는 동안에도 무단 이용자들이 추론 기록을 얻기 위한 수법을 바꿨다고 보고서에 적었다. 방어책별 성공률이나 데이터 감소율은 제시하지 않았다.
오픈AI도 2026년 9월 보호된 추론 기록을 추출하려는 조직적 시도를 공개했다. 회사는 한 대화에서 복사한 암호화된 추론 정보를 다른 대화에서 복원하려는 경로를 차단했다고 밝혔다. 두 회사의 보고서는 각각 조사한 사례와 대응을 다룬다.
앤스로픽은 앞서 알리바바와 큐원 연계 운영자들이 클로드와 2880만건 이상 교환하며 모델 역량을 추출했다고 미 의회에 제기한 의혹도 공개한 바 있다. 이번 보고서는 2026년 5~7월 1억5100만건이 넘는 교환을 관측했다고 전했다. 두 수치는 서로 다른 기간의 활동 사례다.
원문 제목에 제시된 ‘90~99% 감소’는 앤스로픽의 공개 보고서와 제품 자료에서 확인되지 않는다. 보고서에서 확인되는 수치는 특정 기간에 관측한 교환 건수와 추론 기록 추출 사례다.
댓글 0
불러오는 중…