오픈AI(OpenAI)의 GPT-6.2 아스트라(Astra)와 솔(Sol)이 내부 추론 과정(체인 오브 소트)을 암호화하고, 추론 노출 가능성이 있는 스트리밍 응답을 보류하는 방어 기능을 적용했다.
오픈AI는 GPT-6.2 시스템 카드에서 무단 증류(한 모델의 출력·추론을 이용해 다른 모델을 훈련하는 방식) 공격에 대한 적응형 레드팀 평가 결과, 이전 대화와 현재 요청에서 비공개 추론을 추출하려는 시도의 성공률이 두 모델 모두 1% 미만이었다고 밝혔다. GPT-6 아스트라에서 54.0%였던 이전 대화 추출 성공률은 GPT-6.2 아스트라에서 0.2%, 솔에서 0.5%로 낮아졌다.
앤트로픽(Anthropic)은 10월 12일 공식 글에서 클로드(Claude)의 추론을 사용자에게 보여주기 전에 요약하는 방식 등을 포함한 방어 조치를 공개했다. 앤트로픽은 자사 플랫폼에서 증류자가 추출한 추론 토큰이 방어 조치 도입 뒤 10~100배(약 90~99%) 줄었다고 추정했으며, 이를 초기 증거라고 설명했다.
<Copyright ⓒ TokenPost, unauthorized reproduction and redistribution prohibited>
Most Popular