텐센트(Tencent)가 16일 인공지능 모델 혼위안(Hunyuan) Hy4 flash를 출시했다. 회사의 자체 업무 평가에서 과제당 비용은 기존 Hy4의 20분의 1로 제시됐다.
이번 출시는 텐센트가 앞서 혼위안 Hy4와 Hy4 flash 공개를 예고한 뒤 이어졌다. Hy4 flash는 전체 매개변수 2240억 개 가운데 추론 과정에서 120억 개를 활성화하며, 여러 형태의 입력과 최대 100만 토큰의 문맥을 지원한다. 토큰은 모델이 입력을 읽고 답을 만드는 데 사용하는 데이터 단위다. 마스비트(Marsbit)는 모델 사양과 가격을 전했다.
API 가격은 입력 100만 토큰당 0.5위안, 출력 100만 토큰당 2위안이다. 캐시 적중 시 입력 요금은 100만 토큰당 0.02위안이다. 캐시는 이미 처리한 입력 내용을 다시 활용하는 기능으로, 이 요금과 과제당 비용은 산정 기준이 서로 다르다.
텐센트의 WorkIndex 업무 평가에서 Hy4 flash의 결과물은 전체 매개변수 7700억 개인 Hy4 preview보다 조금 나았고, 과제당 비용은 Hy4 preview의 13분의 1, 딥시크(DeepSeek) V4.1-Flash의 8분의 1로 제시됐다. 텐센트는 Hy4 flash의 KV 캐시가 Hy4의 6분의 1이며 디코딩 속도는 초당 150토큰을 넘는다고 설명했다. KV 캐시는 모델이 앞서 읽은 정보를 처리 과정에서 보관하는 공간이다. 회사는 모델 구조와 추론 과정의 최적화를 비용 절감 근거로 들었다.
텐센트는 이용자 85명이 모델 이름을 가린 채 259개 과제를 평가한 결과, 만족도가 클로드(Claude) 하이쿠 5.5에 가까웠다고 밝혔다. 과제 시작부터 완료까지 걸린 시간은 비교 대상 가운데 가장 짧았다. 모델은 텐센트의 위안바오(Yuanbao) 등 서비스에 적용됐으며 11월 말까지 한시적으로 무료 제공된다. 텐센트는 이후 오픈소스 공개도 계획하고 있다.
<Copyright ⓒ TokenPost, unauthorized reproduction and redistribution prohibited>
Most Popular