300억 매개변수 뮤즈 글리머, 소비자용 그래픽카드서 구동

메타(Meta·$META)가 소비자용 단일 그래픽카드에서 실행할 수 있는 300억 매개변수 인공지능(AI) 모델 ‘뮤즈 글리머(Muse Glimmer)’를 10일 공개했다. 대형 클라우드 서버를 거치지 않고 개인용 컴퓨터에서 에이전트형 작업을 처리하도록 설계된 오픈웨이트 모델이다.

제로헤지는 뮤즈 글리머의 가중치가 모델 저장소 허깅페이스(Hugging Face)에 공개됐다고 보도했다. 라이선스는 수정과 재배포를 허용하는 아파치 2.0이 적용됐으며, 이용자는 저작권과 라이선스 고지 등 관련 조건을 준수해야 한다.

이번 출시는 메타가 개인용 컴퓨터에서 실행할 수 있는 경량 오픈웨이트 AI 모델을 선보인 흐름의 후속이다. 오픈웨이트는 AI가 입력을 처리하고 결과를 생성할 때 사용하는 계산값인 가중치를 내려받을 수 있도록 공개하는 배포 방식이다.

오픈웨이트와 오픈소스는 공개 범위가 다르다. 모델 가중치를 공개하더라도 학습 데이터와 소스 코드, 전체 개발 과정까지 공개했다는 의미는 아니다.

뮤즈 글리머는 메타의 대형 모델인 뮤즈 스파크(Muse Spark)를 기반으로 학습됐다. 큰 모델의 출력과 학습 결과를 활용해 작은 모델의 성능을 높이는 ‘증류’ 기법이 쓰였다.

300억 매개변수 모델은 통상 정밀도를 그대로 유지하면 55GB가 넘는 메모리가 필요하다. 메타는 수치 정밀도를 낮추는 압축 기술을 적용해 모델 크기를 20GB 미만으로 줄였다.

압축된 모델은 24GB 또는 32GB급 그래픽카드에서 다른 구동 요소와 함께 실행할 수 있다. 클라우드 사용료나 외부 서버 연결 없이 자체 장비에서 모델을 운용하려는 개발자를 겨냥한 구조다.

추론 속도를 높이기 위해서는 ‘추측 디코딩’ 방식이 적용됐다. 작은 보조 모델이 다음 문장 조각을 먼저 예측하면 본 모델이 여러 예측을 한꺼번에 검증하는 구조다.

메타 자체 시험에서 뮤즈 글리머는 RTX 5090에서 3.1배, M5 맥스에서 1.8배, M4 맥스에서 1.5배 빠른 결과를 냈다. 다만 비교 기준과 성능 수치는 메타의 자체 시험 결과로, 외부의 독립적인 검증은 남아 있다.

뮤즈 글리머는 코딩과 행정 업무, 외부 도구 호출처럼 여러 단계를 거치는 에이전트형 작업에 초점을 맞췄다. 에이전트형 AI는 사용자의 지시에 답변만 생성하는 데 그치지 않고 작업을 나누고 도구를 활용해 결과를 완성하는 모델을 말한다.

메타는 뮤즈 글리머를 구글의 젬마4-31B와 알리바바의 큐원3.6-27B에 대응하는 모델로 제시했다. 실제 코드 오류 수정과 외부 도구 호출, 작업 실패 후 복구 능력을 평가하는 시험에서 경쟁력을 갖췄다는 것이 회사 측 설명이다.

마크 저커버그(Mark Zuckerberg) 메타 최고경영자(CEO)는 ‘미래는 모두를 위한 것(The Future Is for Everyone)’이라는 글에서 “미국 오픈소스 모델이 장기적으로 앞서가려면 미국 정책은 이런 추가 마찰을 줄여야 한다”고 말했다. AI 역량을 소수 기관에 집중하기보다 개인과 개발자에게 넓게 배포해야 한다는 주장이다.

이번 공개는 구글과 알리바바, 미스트랄, 딥시크 등이 소형 공개 모델을 내놓는 가운데 이뤄졌다. 모델을 자체 장비에서 실행하면 이용 환경을 직접 통제하고 목적에 맞게 조정할 수 있지만, 구동 장비와 운영 역량은 이용자가 마련해야 한다.

AI 모델의 로컬 구동 확대는 그래픽카드와 개인용 연산 자원 수요에 직접 닿는다. 암호화폐 AI 섹터와 탈중앙화 컴퓨팅 분야로 이어질지는 추가 관찰이 필요하며, 관련 토큰 가격이나 거래량에 미친 직접적인 영향은 확인되지 않았다.

메타는 앞으로 수주 안에 뮤즈 스파크의 오픈웨이트 버전을 공개하고 이후 더 큰 모델도 선보일 계획이다. 뮤즈 글리머의 실제 성능은 가중치를 내려받은 외부 개발자들의 독립적인 시험을 거쳐 구체화될 전망이다.