퀄컴, 경량 AI 모델 데이터센터 가속기 최적화 협력

퀄컴(Qualcomm·$QCOM)이 스페인 인공지능(AI) 기업 멀티버스 컴퓨팅(Multiverse Computing)과 데이터센터용 AI 모델 경량화에 나섰다. 대규모언어모델(LLM)의 크기와 실행 부담을 줄여 추론 효율을 높이려는 협력이다.

멀티버스 컴퓨팅은 5일 자사 홈페이지에서 경량 AI 모델을 퀄컴의 드래곤플라이(Dragonfly) AI200·AI250 가속기에 특화하겠다고 밝혔다. 회사는 이번 협력을 “효율적인 AI 모델을 데이터센터로 가져오기 위한 협업”이라고 설명했다.

협력의 핵심은 멀티버스 컴퓨팅의 모델 압축 기술인 CompactifAI다. 양자컴퓨팅에 쓰이는 수학적 접근을 참고한 텐서 네트워크를 활용해 LLM의 크기와 메모리 사용량을 줄이는 기술이다.

멀티버스 컴퓨팅은 CompactifAI로 압축한 모델의 추론 비용을 50~80% 낮추고 추론 속도를 최대 2배 높이는 것을 목표로 제시했다. 정확도는 원본 모델의 거의 100% 수준으로 유지한다는 설명이다.

이들 수치는 멀티버스 컴퓨팅이 자사 서비스에 제시한 목표다. 실제 상용 환경에서 같은 효과를 내는지는 향후 고객 배포 사례와 독립 벤치마크를 통해 검증돼야 한다.

이번 협력은 퀄컴의 AI 추론용 데이터센터 시장 진입 전략과 맞물린다. 퀄컴은 지난 6월 드래곤플라이 포트폴리오를 공개하면서 AI200과 AI250, AI300으로 이어지는 추론 가속기 로드맵을 제시했다.

AI250은 HBC Gen 1을 기반으로 카드당 133TB/s의 유효 메모리 대역폭을 제공하도록 설계됐다. 퀄컴은 이 수치가 AI200의 18배 수준이라고 밝혔다.

AI 인프라 경쟁은 모델 학습 성능에서 추론 효율로 넓어지고 있다. 챗봇과 AI 에이전트, 검색 보조, 코딩 도구처럼 반복 호출이 많은 서비스는 응답을 생성할 때마다 추론 비용이 누적된다.

모델 압축은 이 과정에서 필요한 메모리와 전력, 응답 지연을 줄이는 방법이다. 퀄컴이 하드웨어와 메모리 대역폭을 개선한다면 멀티버스 컴퓨팅은 모델 크기와 실행 부담을 줄이는 방식으로 같은 병목을 겨냥한다.

본지도 앞서 AI 인프라의 부담이 연산 성능에서 메모리 용량과 대역폭, 데이터 이동 구조로 확산되고 있다고 전한 바 있다.

멀티버스 컴퓨팅은 2025년 6월 CompactifAI가 LLM 크기를 최대 95% 줄이면서 성능을 유지할 수 있다고 주장했다. 당시 1억8900만 유로 규모의 투자 유치도 발표했다.

회사는 압축 모델을 클라우드와 사설 데이터센터뿐 아니라 일부 초경량 환경의 PC·휴대전화·차량·드론에서도 운용할 수 있다고 설명했다. 이번 협력은 이 기술의 적용 범위를 퀄컴의 데이터센터 가속기로 넓히는 단계다.

다만 이번 발표에서 토큰 발행이나 블록체인 인프라, 채굴 장비, 온체인 데이터 처리와의 직접적인 연결은 확인되지 않았다. AI 데이터센터의 전력 효율과 추론 비용 절감이 탈중앙 AI나 검증 가능한 AI 연산, 온디바이스 AI 지갑에 미칠 영향도 아직 구체화되지 않았다.

퀄컴과 멀티버스 컴퓨팅은 CompactifAI 기반 모델을 드래곤플라이 AI200·AI250에 최적화할 예정이다. 비용 절감과 성능 유지 폭은 실제 고객 배포와 독립 벤치마크가 공개된 뒤 구체적으로 판단할 수 있다.