GLM-5.2, 에뮬레이터 복제 시험서 5회 중 4회 8개 노드 도달

앤스로픽 연구진이 인증이 설정되지 않은 안드로이드 에뮬레이터 8대에서 GLM-5.2의 복제 절차를 시험했다. 다섯 차례 중 네 차례는 8개 노드 모두에 도달했고, 한 차례는 7개 노드까지 퍼졌다. 실험은 실제 사물인터넷(IoT) 기기의 무단 감염을 입증한 것은 아니다.

앤스로픽 프런티어 레드팀은 10월 12일 공개한 연구에서 소형 개방형 모델이 수개월 안에 저가형 TV 박스 같은 IoT 기기에서 자가 복제를 수행할 능력을 갖출 수 있다고 추정했다. 연구진은 현재 완전한 자가 복제형 AI가 확인된 것은 아니며, 이 추정은 모델 능력의 발전 추세를 바탕으로 한 것이라고 밝혔다.

연구는 세 단계로 진행됐다. 첫 실험에서는 약 55달러짜리 저가형 안드로이드 TV 박스 15대에 구글의 개방형 모델 Gemma4-26B-A4B를 분산 실행했다. 매개변수 260억개인 모델은 초당 0.39토큰으로 느리게 작동했지만, 데이터센터 GPU 없이 여러 기기의 연산 자원을 모아 실행할 수 있었다.

이 단계는 연구진이 직접 모델을 설치해 하드웨어의 연산 능력을 확인한 실험이었다. 모델이 스스로 기기에 침투하거나 설치한 것은 아니다.

두 번째 실험에서는 매개변수 90억개인 Qwen3.5-9B가 낯선 하드웨어에 추론 서버를 설치할 수 있는지 살폈다. 시험한 9종의 하드웨어 가운데 8종에서 설정에 성공했고, 실패한 장치는 AMD MI300X였다. 연구진은 이 시험이 모델의 하드웨어 적응 능력을 평가한 것이며 장치 취약성을 확인한 것은 아니라고 설명했다.

마지막 실험에서는 구글 클라우드에 안드로이드 15 에뮬레이터 8대를 구성했다. 모델은 인증이 설정되지 않은 ADB 원격 디버깅 포트를 이용해 다음 노드로 이동하고, 모델 파일과 프로그램을 전송한 뒤 추론 서버를 설치하는 절차를 수행했다. 시험한 개방형 모델 중 GLM-5.2만 전체 복제 과정을 마쳤다.

실험 조건에는 한계가 있다. 침입 단계에서 인증이 생략됐고, 복제 과정을 수행한 모델은 감염 노드가 아닌 별도 서버에서 실행됐다. 노드에 설치된 모델도 GLM-5.2가 아니라 Llama3.1-8B였다. 앤스로픽은 이런 조건이 실제 환경에서의 성공률을 상한선으로 만든다고 밝혔다.

연구진은 모델의 성능과 크기가 서로 다른 제약이라고 봤다. 복제 절차를 안정적으로 수행할 만큼 유능한 모델은 기기에서 돌리기에 너무 크고, 기기에 넣을 만큼 작은 모델은 절차를 끝까지 수행하기 어렵다는 설명이다. 앤스로픽은 연구에서 TV 박스 4대 이상에 Qwen3.5-9B를, 10대 이상에 Gemma4-26B-A4B를 분산해 실행할 수 있다고 제시했다.

앤스로픽 연구진은 연구에서 300억 매개변수 이하 개방형 모델의 능력 지표 추세를 외삽해 2026년 말쯤 소형 모델이 GLM-5.2 수준에 도달할 수 있다고 추정했다. 다만 해당 지표가 자가 복제 능력을 직접 측정하는 것은 아니며, 연구진은 이를 거친 추정이라고 설명했다. 따라서 이 추정이 연말까지 자가 복제형 AI가 등장한다는 뜻은 아니다.

설치와 확산에 걸리는 시간도 제약으로 제시됐다. 연구진의 계산으로는 TV 박스에 Qwen3.5-9B를 설치하는 데 28~51시간, Gemma4-26B-A4B에는 71~150시간이 걸릴 수 있다. 모델 파일 전송과 기기 간 통신은 네트워크 감시에서 이상 징후로 포착될 수 있다고 연구진은 봤다.

방어 수단으로는 네트워크 트래픽 감시와 감염 기기 격리가 제시됐다. 앤스로픽은 과거 미라이(Mirai) 봇넷 대응 사례에서 통신사가 감염 이용자를 격리하고 제거 안내를 제공한 뒤 14일 안에 감염 기기의 92%가 정리됐다고 전했다. 안내를 받지 않은 대조군의 정리 비율은 74%였다.

연구진은 완전한 제거를 위해서는 감염 네트워크를 관리하는 통신사들의 공조가 필요하다고 덧붙였다. 실험 결과는 단순화된 환경에서 모델이 복제 절차를 수행할 수 있음을 보여주지만, 현실의 무단 감염이나 자율 확산을 확인한 결과는 아니다.