구글에서 선호하는 출처로 추가

오픈AI GPT-6.2, 추론 과정 암호화해 증류 방어 강화

오픈AI가 GPT-6.2 아스트라와 솔에 내부 추론 암호화와 스트리밍 응답 차단 기능을 적용했다. 비공개 추론 추출 공격 성공률은 두 모델 모두 1% 미만으로 집계됐다.

AI 안전 시험에서 노트북을 덮은 보안 차폐판 / TokenPost.ai (mono)

오픈AI(OpenAI)의 GPT-6.2 아스트라(Astra)와 솔(Sol)이 내부 추론 과정(체인 오브 소트)을 암호화하고, 추론 노출 가능성이 있는 스트리밍 응답을 보류하는 방어 기능을 적용했다.

오픈AI는 GPT-6.2 시스템 카드에서 무단 증류(한 모델의 출력·추론을 이용해 다른 모델을 훈련하는 방식) 공격에 대한 적응형 레드팀 평가 결과, 이전 대화와 현재 요청에서 비공개 추론을 추출하려는 시도의 성공률이 두 모델 모두 1% 미만이었다고 밝혔다. GPT-6 아스트라에서 54.0%였던 이전 대화 추출 성공률은 GPT-6.2 아스트라에서 0.2%, 솔에서 0.5%로 낮아졌다.

앤트로픽(Anthropic)은 10월 12일 공식 글에서 클로드(Claude)의 추론을 사용자에게 보여주기 전에 요약하는 방식 등을 포함한 방어 조치를 공개했다. 앤트로픽은 자사 플랫폼에서 증류자가 추출한 추론 토큰이 방어 조치 도입 뒤 10~100배(약 90~99%) 줄었다고 추정했으며, 이를 초기 증거라고 설명했다.

오늘의 스탬프 0명이 오늘 찍었어요
오늘의 스탬프 0명이 오늘 찍었어요

0

    불러오는 중…

    토큰포스트 앱 다운로드 QR 코드 QR 코드 스캔하고
    ios, Android 앱
    다운로드 하기