GLM-5.3, 엔드투엔드 사이버 공격 개발 능력 분석

지푸 AI(Zhipu AI)의 오픈 웨이트 모델 GLM-5.3이 복수의 취약점을 연결해 엔드투엔드 사이버 익스플로잇을 개발하는 능력을 보였다는 분석이 나왔다. 앤트로픽(Anthropic)은 29일 공개한 연구에서 GLM-5.3이 공격에 악용될 수 있는 수준의 사이버 능력을 갖췄다고 분석했다. 앤트로픽 연구

앤트로픽은 격리된 시험 환경에서 GLM-5.3이 브라우저 구성요소의 알려지지 않은 취약점 여러 개를 찾아 연결하고, 방문자의 컴퓨터 파일을 읽는 익스플로잇을 개발했다고 밝혔다. 알려진 취약점을 공격 코드로 전환하는 ExploitBench 시험에서는 410회 중 50회 성공했다.

안전장치 우회 시험에서는 허위로 방어 목적의 작업이라고 설명하는 기법을 사용했을 때 유해 요청에 응한 비율이 64%로 나타났다. 사고 과정을 미리 입력한 경우에는 92%, 안전장치를 제거한 변형 모델에서는 100%였다. 미국 국립표준기술연구소(NIST) 인공지능 표준·혁신센터(CAISI)는 17일 GLM-5.3을 현재까지 공개된 오픈 웨이트 모델 가운데 사이버 능력이 가장 강한 모델로 평가했으며, 미국 최전선 모델보다는 약 4개월 뒤처진 것으로 분석했다. NIST 평가