지푸AI, GLM-5.3 후훈련 성과 강조

지푸AI의 GLM-5.3 논의가 대형 인공지능(AI) 모델 경쟁의 초점을 매개변수 규모에서 후훈련과 운용 효율로 넓히고 있다. 같은 기반 모델을 쓰더라도 장거리 작업 환경과 강화학습을 확장하면 코딩과 보안 작업 성능이 달라질 수 있다는 설명이다.

탕제(Tang Jie) 지푸AI(Z.ai) 창업자는 19일 글에서 대형 모델 확장은 매개변수 수만 볼 일이 아니며 데이터 규모, 연산 자원 배분, 추론 비용, 실제 운용 조건을 함께 봐야 한다고 밝혔다고 테크플로우(TechFlow)는 전했다. 테크플로우의 해당 보도 시각은 중국시간 19일 오전 11시32분으로, 한국시간으로는 같은 날 오후 12시32분이다.

탕제는 초기 확장 법칙에서 매개변수 증가가 데이터 증가보다 빠르게 이뤄졌고, 이 흐름이 일부 초대형 모델의 자원 배분 불균형으로 이어졌다고 설명했다. 이후 연구는 모델 매개변수와 훈련 데이터가 더 균형 있게 늘어야 한다는 쪽으로 옮겨 갔다는 취지다.

핵심은 후훈련이다. 후훈련은 기초 모델을 만든 뒤 특정 작업 환경과 보상 체계로 성능을 다시 끌어올리는 과정이다. 사전훈련이 언어와 지식의 바탕을 넓히는 단계라면, 후훈련은 실제 사용 방식에 맞춰 답변과 행동을 조정하는 단계에 가깝다.

탕제는 GLM-5.3이 GLM-5.2와 같은 기초 모델, 구조, 총매개변수, 활성매개변수를 썼다고 밝혔다. 차이는 한 달 동안 장거리 작업 환경과 강화학습을 확장한 후훈련에 있었다.

이 설명은 대형 모델 경쟁을 단순한 크기 경쟁으로만 보기 어렵게 만든다. 모델을 새로 키우는 대신 기존 기반 모델 위에 더 긴 실행 경로, 더 많은 작업 환경, 보상 체계를 붙여 성능을 높이는 경로가 부각됐기 때문이다.

전문가 혼합 모델에서는 총매개변수와 활성매개변수의 의미도 갈린다. 총매개변수는 모델이 담을 수 있는 지식 용량과 관련되고, 활성매개변수와 유효 깊이는 실제 추론 능력에 더 직접적으로 작용한다는 게 탕제의 설명이다. 이 때문에 단일한 ‘매개변수당 훈련 토큰’ 비율만으로 모델 효율을 설명하기 어려워졌다는 분석이다.

추론 비용도 변수로 제시됐다. 모델이 고빈도로 호출될수록 실제 비용은 훈련 단계보다 서비스 운영 단계에서 크게 누적될 수 있다. 이 경우 더 작은 모델을 더 오래 훈련하는 전략이 비용과 성능의 균형점으로 거론된다.

지푸AI는 앞서 GLM-5.3을 코딩 성능을 강화한 새 대형언어모델로 공개했다. 회사는 GLM 코딩 플랜과 ZCode를 통해 먼저 제공하고, API와 공개 가중치는 안전성 평가 뒤 단계적으로 내놓겠다고 밝혔다.

공개 가중치는 모델 구조와 학습된 값을 외부 개발자가 직접 내려받아 활용할 수 있는 형태를 뜻한다. 개발자 입장에서는 폐쇄형 API만 쓰는 방식보다 활용 범위가 넓지만, 배포 범위와 안전성 검증이 함께 따라붙는다.

지푸AI 개발 문서도 GLM-5 계열에서 장거리 에이전트 작업, 비동기 강화학습, 긴 문맥 처리 효율을 주요 축으로 제시하고 있다. 장거리 에이전트 작업은 단일 답변보다 여러 단계의 계획, 실행, 검증을 이어 가는 작업을 말한다.

이 흐름은 블록체인 개발자에게도 간접적으로 닿는다. 스마트계약 감사, 코드 리뷰, 취약점 탐지, 자동화 개발 도구는 코딩 AI 모델의 성능과 안전장치에 영향을 받기 때문이다. 다만 공개 자료에서 GLM-5.3과 특정 암호화폐나 블록체인 프로젝트의 직접 연계는 제시되지 않았다.

성능 평가는 아직 회사가 공개한 자료와 외부 보도에 근거한 단계다. 실제 개발 현장에서의 안정성, 비용 효과, 보안 통제 수준은 API 공개와 가중치 공개, 독립 평가 이후 비교될 수 있다.

탕제의 글은 매개변수 규모, 사전훈련 데이터, 순전파 연산, 후훈련을 각각 조절 가능한 확장 변수로 봤다. GLM-5.3 사례는 대형 AI 모델 경쟁이 더 큰 기초 모델을 만드는 방식만으로 설명되지 않는다는 점을 보여준다.