뉴스
코인정보
라운지
커뮤니티
TPI 
매체소개
고객센터
0
알리바바가 다시 한번 글로벌 AI 시장의 판을 흔들고 있다. 오픈소스 다중모달 모델인 Qwen3 시리즈를 공개한 지 며칠 만에, 알리바바의 Qwen 팀은 일반 소비자용 PC와 노트북에서도 실시간으로 구동 가능한 경량형 모델 Qwen2.5-Omni-3B를 출시했다. 이번 출시로 기업들은 고성능 AI 기능을 대형 GPU 없이 구현할 수 있는 가능성을 얻게 됐다.
Qwen2.5-Omni-3B는 기존의 70억 파라미터 모델을 30억 파라미터로 축소한 버전으로, 모델 크기를 줄이면서도 90% 이상의 기능적 성능을 유지하는 것이 특징이다. 특히 텍스트, 이미지, 오디오, 영상 등 다양한 입력을 수용하면서 실시간 음성 생성 기능까지 지원해 일반 소비자용 장비에서의 실행이 현실화됐다.
하드웨어 효율성 측면에서도 주목할 만하다. Qwen2.5-Omni-3B는 최대 2만5,000개의 토큰 입력을 기준으로 GPU 메모리 사용량을 절반 이상 줄였다. 기존 모델은 60.2GB에 달했으나, 새로운 모델은 이를 28.2GB 수준으로 축소해 24GB GPU가 탑재된 데스크톱이나 고성능 노트북에서도 충분히 처리 가능하다. 이는 고가의 엔터프라이즈용 GPU 없이도 AI 테스트 및 개발 환경 구축이 가능해졌다는 의미다.
알리바바 측은 이번 경량화에 적용된 핵심 기술로 'Thinker-Talker 구조'와 TMRoPE(Position Embedding) 기법을 꼽았다. 이를 통해 영상과 오디오의 동기화 수준을 높여 다중모달 이해력을 개선했다.
다만 상업적 사용에 제약이 따른다. Qwen2.5-Omni-3B는 ‘연구용 목적’으로만 무료 제공되며, 기업이 이를 상용 제품에 적용하려면 별도의 라이선스를 획득해야 한다. 이는 오픈소스임에도 불구하고 상업화 경계선을 명확히 하겠다는 알리바바의 전략적 판단으로 풀이된다.
현재 해당 모델은 허깅페이스(Hugging Face), 깃허브(GitHub), 알리바바의 모델스코프(ModelScope) 등에서 다운로드 받을 수 있다. 개발자는 허깅페이스 트랜스포머, 도커(Docker), vLLM 환경을 통해 손쉽게 적용할 수 있으며, FlashAttention 2, BF16 정밀도 설정 등을 통해 성능과 메모리 최적화 역시 가능하다.
성능 지표에서도 Qwen2.5-Omni-3B는 경이로운 결과를 나타냈다. 다중모달 추론 기능을 측정하는 OmniBench 테스트에서 대형 모델과의 성능 격차가 미세했으며, 음성 생성 테스트에서는 상위권 점수를 기록했다. 특히 실시간 반응성과 음성 커스터마이징 기능은 사용자 경험 개선에 크게 기여할 것으로 기대된다. 선택 가능한 음성은 여성형 ‘첼시’와 남성형 ‘이선’ 2종이다.
향후 기업의 기술 전략 수립에 중요한 레퍼런스로 작용할 전망이다. AI 인프라 책임자 입장에선 Qwen2.5-Omni-3B가 소규모 환경에서 멀티모달 AI를 구현할 수 있는 실험 및 검증 도구로 기능할 수 있기 때문이다. 비록 상업적 사용은 제한되지만, 기술 타당성 검증과 프로토타이핑에는 유용하다. 예를 들어, 데이터 엔지니어나 보안 담당자는 내부 테스트나 파이프라인 설계 검토 등을 위해 해당 모델을 활용할 수 있다.
결과적으로 Qwen2.5-Omni-3B는 부담 없는 비용과 간편한 하드웨어 조건으로 AI 실험의 문턱을 낮췄지만, 동시에 라이선스라는 명확한 장벽을 설정함으로써 상용화에는 신중한 접근을 유도하고 있다. 이는 곧 기업들에게 단순한 기술 도입이 아닌, 자사 전략에 맞는 선택을 고민하게 만드는 결정적 변수로 작용할 가능성이 크다.
