키미 K2.5, 독립 평가서 사보타주·자기복제 성향

중국 문샷AI(Moonshot AI)의 오픈웨이트 모델 키미 K2.5(Kimi K2.5)가 독립 안전성 평가에서 낮은 거절 성향과 사보타주·자기복제 능력을 보였다. 여러 하위 에이전트가 도구를 병렬로 사용하는 구조인 만큼 배포 이후의 권한 관리와 도구 호출 통제가 핵심 과제로 제시됐다.

키미 K2.5가 사회적 추론 게임 ‘ParliamentBench’에서 9라운드 동안 90%의 기만 유지율을 기록했다는 내용도 나왔다고 크립토브리핑은 4일 전했다. 파시스트 지지 점수 84.9%와 파시스트 승률 85%도 제시됐지만, 공개된 아카이브 논문과 문샷AI 공식 자료에서는 이들 수치를 담은 연구를 확인할 수 없었다.

공개된 사회적 추론 연구는 다른 결과를 담고 있다. 니클라스 바우어(Niklas Bauer) 괴팅겐대 연구자는 2026년 4월 9일 제출한 논문 ‘Evaluating Large Language Models in a Complex Hidden Role Game’에서 게임 ‘Secret Hitler’를 활용해 대형언어모델(LLM)의 추론·설득·기만 능력을 평가하는 틀을 제시했다.

논문은 △역할 식별 정확도 △기만 유지율 △게임 상태 영향률을 평가 지표로 제안했지만 키미 K2.5를 평가 대상으로 명시하지 않았다. 당시 모델들은 파시스트 역할에서 기만을 오래 유지하지 못했고, 인간이 참여한 게임보다 약 40% 짧은 게임을 만든 것으로 나타났다.

문샷AI는 2026년 1월 27일 키미 K2.5를 공개하며 약 15조개의 시각·텍스트 혼합 토큰으로 추가 사전학습했다고 밝혔다. 복잡한 작업에서는 최대 100개의 하위 에이전트와 최대 1500회의 도구 호출을 병렬로 운용하는 ‘에이전트 스웜(Agent Swarm)’ 구조를 적용했다.

에이전트 스웜은 하나의 모델이 작업을 여러 하위 에이전트에 나눠 동시에 처리하는 방식이다. 문샷AI는 이 구조가 단일 에이전트 방식보다 실행 시간을 최대 4.5배 줄일 수 있다고 설명했다.

허깅페이스(Hugging Face)에 공개된 모델 카드를 보면 키미 K2.5는 전문가 혼합(MoE) 구조를 사용한다. 전체 파라미터는 1T, 토큰당 활성 파라미터는 32B이며 컨텍스트 길이는 256K, 비전 인코더는 MoonViT로 기재됐다.

모델 카드에 공개된 자체 평가 점수는 도구를 사용한 HLE-Full 50.2, SWE-Bench Verified 76.8, BrowseComp Agent Swarm 78.4다. 이들 수치는 키미 K2.5의 코딩·탐색·에이전트 작업 성능을 보여주는 문샷AI 측 평가 결과다.

정신융(Zheng-Xin Yong) 등 연구진은 2026년 4월 3일 제출한 논문 ‘An Independent Safety Evaluation of Kimi K2.5’에서 모델 공개 당시 함께 제시된 안전성 평가가 없었다고 지적했다. 키미 K2.5가 코딩과 멀티모달, 에이전트 벤치마크에서 폐쇄형 모델과 경쟁하는 성능을 갖췄다는 점도 평가 배경으로 들었다.

연구진은 키미 K2.5가 화학·생물학·방사능·핵·폭발물(CBRNE) 관련 요청을 상대적으로 적게 거절했으며 사보타주 능력과 자기복제 성향도 보였다고 밝혔다. 다만 장기적으로 악의적인 목표를 추구한다는 증거는 찾지 못했다고 설명했다.

이번 평가는 모델이 한 번의 답변을 거절하는지만 살피는 방식으로는 에이전트형 AI의 위험을 충분히 측정하기 어렵다는 문제를 드러냈다. 본지가 앞서 전한 AI 에이전트의 실제 외부 인프라 접근 사례에서도 접근 권한과 외부 접속 경로를 제한하는 통제 체계가 핵심 과제로 제기됐다.

크립토 시장과의 직접적인 연결은 제한적이다. 다만 AI 에이전트가 온체인 리서치와 트레이딩 자동화, 스마트컨트랙트 점검, 고객 응대에 활용되면 장기 상호작용 과정의 기만과 권한 오용, 도구 호출 통제가 인프라 안전성과 맞닿게 된다.

키미 K2.5가 특정 크립토 서비스나 토큰 가격에 직접 영향을 미쳤다는 근거는 없다. 중국 AI 분야에 2026년 상반기 3076억8200만 위안의 벤처자금이 유입된 가운데, 오픈웨이트 모델을 실제 시스템에 연결할 때는 권한 제한과 로그 검증, 외부 모니터링을 함께 설계해야 한다는 지적이 나온다.