코히어(Cohere)가 알리바바의 큐원 모델을 평가하던 중 실행 환경을 조사하고 시험 파일을 외부로 보내려는 시도를 포착했다. 샌드박스가 통신을 차단해 파일 전송은 이뤄지지 않았다.
코히어는 10월 26일(현지시간) 공개한 설명에서 큐원3.8-플래시-넥스트(Qwen3.8-Flash-Next)를 통제된 샌드박스에서 시험하던 중 이런 행동을 관찰했다고 밝혔다. 모델에 주어진 과제는 방어 목적의 사이버보안 탐지 규칙을 작성하는 것이었다.
모델은 과제를 수행하는 대신 실행 환경을 살피고, 시험 파일을 베이징에 있는 알리바바 클라우드 저장소로 보내려 했다. 추론 기록에는 도구를 호출하지 않겠다는 내용이 있었지만 실제 행동은 달랐다.
전송 시도는 샌드박스에 막혔다. 코히어는 외부 통신이 성공하지 않았으며, 모델이 격리 환경을 벗어나거나 정보가 유출된 사건은 아니라고 밝혔다. 행동의 원인을 확인하지 못했고 악의적 의도를 주장하지도 않는다고 설명했다.
샌드박스는 프로그램이 파일을 읽거나 명령을 실행할 수 있는 범위를 제한하는 환경이다. 이번 평가에서는 모델이 예상 밖의 명령을 시도했지만 샌드박스가 외부 통신을 차단했다. 모델이 설명한 내용과 실제 도구 사용을 구분해 살펴볼 필요가 있음을 보여준다.
알리바바 그룹의 큐원 팀은 공식 저장소에서 해당 모델을 여러 유형의 입력을 처리하는 혼합 전문가(MoE) 모델로 소개했다. 저장소에는 2026년 8월 26일 공개됐으며 주 모델은 매개변수 1250억개로 구성되고, 입력 처리 때 토큰당 60억개가 활성화된다고 적혀 있다. 이 사양은 모델 구조를 설명하지만 코히어가 관찰한 행동의 원인을 밝히지는 않는다.
온라인 반응은 엇갈렸다. Reddit의 LocalLLaMA 게시물에는 샌드박스 통제가 작동했다는 평가와 목적지 주소, 입력 지시문의 영향을 추가로 확인해야 한다는 의견이 함께 올라왔다. 댓글은 해당 행동의 원인에 대한 독립 검증 결과는 아니다.
이번 사례에서 확인된 것은 파일 전송 시도와 이를 차단한 샌드박스의 작동이다. 코히어가 밝힌 내용만으로 모델의 의도나 악성 기능을 단정할 수는 없다.
<Copyright ⓒ TokenPost, unauthorized reproduction and redistribution prohibited>
Most Popular