오픈AI(OpenAI)·앤트로픽(Anthropic)·구글(Google)의 암호화된 AI 추론 블록이 다른 이용자와 세션, 모델에서도 재사용되는 취약점이 드러났다. 연구진은 공개 로그에서 추론 블록 31만5320개를 복호화해 개인정보 367건과 인증정보 182건을 찾아냈다.
11일 공개된 논문에서 연구진은 각 AI 공급자가 추론 블록을 공급자별 단일 전역 키로 암호화한 것으로 분석했다. 강력한 모델이 생성한 암호화 블록을 같은 공급자의 보안 수준이 낮은 모델에 입력해 원래 추론 내용을 평문으로 출력시키는 방식이다.
복호화된 자료에서는 비밀번호와 API 키를 비롯한 인증정보가 발견됐다. 연구진은 최종 답변에서 차단된 유해 정보가 추론 과정에 남거나, 암호화 블록에 숨긴 명령으로 프롬프트 주입 공격을 시도할 수 있다고 밝혔다.


