구글에서 선호하는 출처로 추가
지푸GLM, 10만장 중국산 AI 칩서 2주 만에 처리량 3배
토큰포스트 속보
지푸GLM이 중국산 AI 칩 10만장 이상으로 구성된 클러스터에서 추론 시스템을 구축했다. 인프라 에이전트 최적화로 종단간 처리량을 초기 기준선의 3배로 높였다고 밝혔다.
지푸GLM은 중국산 AI 칩 10만장 이상으로 구성된 클러스터에서 GLM-5.3-Flash 추론 시스템을 구축하고, 2주가 안 돼 종단간 처리량을 초기 기준선의 3배로 높였다고 17일 공식 블로그에서 밝혔다.
지푸GLM은 GLM-5.3 기반 인프라 에이전트가 추론 인프라의 설계·조정·최적화를 수행했다고 설명했다. 이 과정에서 하드웨어 이용 효율과 단일 토큰 비용이 주류 엔비디아 GPU와 비슷한 수준에 도달했다고 밝혔다.
지푸GLM은 이번 사례를 모델이 자신이 구동되는 시스템을 역으로 개선하는 재귀적 자기개선(RSI) 방식의 엔지니어링 사례로 소개했다.
Comment 0
불러오는 중…