구글에서 선호하는 출처로 추가

Liquid AI, 활성 파라미터 2.45B 추론 모델 공개

토포AI로 이 기사 더 깊이 읽기

노트북에서 실행되는 텍스트 기반 AI 에이전트 / TokenPost.ai

전체 파라미터 24B 가운데 토큰 처리에 활성화되는 파라미터가 2.45B인 추론 모델이 공개됐다. Liquid AI는 LFM2.5-24B-A2B를 기기 내 에이전트 작업과 도구 사용에 맞춘 텍스트 전용 모델로 소개했다.

Liquid AI는 10월 13일 LFM2.5 제품군의 마지막 모델인 LFM2.5-24B-A2B를 공개했다. 기본 모델과 에이전트 작업용 후처리 모델의 가중치는 Hugging Face에서 내려받을 수 있다.

모델 카드에는 전체 파라미터가 24.0B, 활성 파라미터가 2.45B로 기재됐다. 활성 파라미터는 토큰을 처리할 때 실제 계산에 참여하는 규모다. 모델 전체를 저장하고 실행하는 데 필요한 메모리가 활성 파라미터 비율만큼 줄어드는 것은 아니며, 실제 요구 사양은 실행 도구와 양자화 방식에 따라 달라질 수 있다.

문맥 길이는 131,072토큰이며 한국어를 포함해 16개 언어를 지원한다. 이전 LFM2-24B-A2B와 비교하면 문맥 길이는 32K에서 131K로, 어휘 크기는 65K에서 128K로 늘었다. 모델 카드에는 Transformers, vLLM, SGLang 실행 경로와 GGUF·MLX 형식도 안내돼 있다.

성능 수치는 Liquid AI의 자체 평가 결과다. 회사는 16개 벤치마크를 비교했으며, 에이전트·도구 사용 평가 8개 가운데 5개에서 Qwen3.6-35B-A3B와 대등하거나 앞섰다고 밝혔다. AutomationBench 점수는 LFM2.5-24B-A2B가 27.69, 비교 대상 모델이 8.72로 제시됐다.

속도 측정에도 조건이 붙는다. Liquid AI는 Apple M5 Max에서 초당 184토큰을 생성했다고 발표했으며, 모델 카드에는 llama.cpp와 Q4_K_M 양자화, 4K 입력 문맥을 사용했다고 적었다. 회사가 제시한 비교 모델 대비 최대 1.7배 속도도 해당 측정 조건에 따른 수치다.

이번 모델은 이미지나 음성을 처리하지 않는 텍스트 전용 모델이다. 공개 가중치와 여러 실행 형식은 개발자가 자기 환경에서 시험할 수 있도록 제공되며, 실제 속도와 메모리 요구량은 기기와 실행 조건에 따라 달라진다.

오늘의 스탬프 0명이 오늘 찍었어요
오늘의 스탬프 0명이 오늘 찍었어요

0

    불러오는 중…

    토큰포스트 앱 다운로드 QR 코드 QR 코드 스캔하고
    ios, Android 앱
    다운로드 하기