알레프 알파, 104만 토큰 처리하는 콜리브리 공개

독일 인공지능 기업 알레프 알파(Aleph Alpha)가 독일어와 영어를 지원하는 오픈 웨이트 모델 ‘콜리브리(Kolibri)’를 공개했다. 전체 매개변수는 781억개지만 토큰당 활성 매개변수는 약 34억6000만개이며, 최대 104만8576토큰의 문맥을 처리할 수 있다.

알레프 알파는 10월 3일 모델 가중치를 허깅페이스(Hugging Face)에 올리고 아파치 2.0 라이선스를 적용했다고 밝혔다. 모델은 전문가 혼합(MoE) 구조를 사용한다. 회사가 밝힌 실제 학습 최장 문맥 길이는 26만2144토큰이며, 효율적인 운영을 위해서도 이 범위의 사용을 권장했다.

콜리브리는 도구 호출과 조절 가능한 추론 모드를 지원한다. 알레프 알파의 자체 평가에서 영어 AIME 2025 점수는 96.9%, LiveCodeBench v6 점수는 85.9%였다. 이 점수는 회사가 공개한 평가 결과다.

블록비츠(BlockBeats)는 콜리브리의 영어·독일어 종합 성적이 큐원 모델보다 높거나 낮다고 전했다. 다만 공개 비교표의 모델명과 보도에 적힌 모델명이 일치하지 않아 성능 순위를 단정하기 어렵다고 덧붙였다.

콜리브리의 가중치는 공개됐으며, 알레프 알파는 독일어와 영어를 지원 언어로 안내했다. 따라서 공개 여부와 문맥 길이만으로 한국어 지원이나 국내 활용 성능을 판단할 수는 없다.