구글에서 선호하는 출처로 추가
프라임 인텔렉트, 문드림 인수해 추론 최적화 기술 확보
최윤서 기자
토포AI로 이 기사 더 깊이 읽기
프라임 인텔렉트(Prime Intellect)가 문드림(Moondream)을 인수해 오픈 모델의 추론 최적화 기술을 확보한다. 인수의 핵심은 엔비디아($NVDA) GPU에서 모델을 효율적으로 실행하는 소프트웨어와 메가커널 자동 생성 도구다.
프라임 인텔렉트 공동창업자 겸 CEO 빈센트 바이스(Vincent Weißer)는 인수 사실을 밝혔다고 크립토브리핑(Crypto Briefing)이 보도했다. 거래 금액과 종결 시점, 기술 통합 일정은 공개되지 않았다.
문드림은 이미지 같은 시각 정보와 텍스트를 함께 처리하는 오픈소스 비전언어 모델로 알려져 있다. 바이스는 이번 인수에서 문드림의 인력과 추론 최적화 역량을 주요 대상으로 설명했다. 문드림 직원은 10명 미만이며, 기존 조달 자금은 450만달러(약 60억원)로 보도됐다.
메가커널은 GPU에서 여러 연산을 하나의 작업으로 묶어 실행하는 기술이다. 통상 엔지니어가 작업을 설계해야 하지만, 문드림은 여러 모델에 적용할 메가커널을 자동 생성하는 컴파일러를 개발했다고 밝혔다. 자동 생성 도구는 개발 부담을 줄이도록 설계됐다.
오픈 모델은 가중치를 내려받아 직접 운영할 수 있지만, 이용 요청을 처리할 때마다 추론 연산이 필요하다. 사용량이 늘면 GPU 연산과 운영 비용도 커진다. 추론 최적화는 실행 속도와 비용을 개선할 여지가 있지만, 이번 인수로 비용이 얼마나 낮아질지는 제시되지 않았다.
프라임 인텔렉트는 10월 2일 오픈 모델 추론 서비스 ‘프라임 인퍼런스’를 공개했다. 회사는 공식 블로그에서 여러 데이터센터의 GPU 인프라를 활용한다고 밝혔다. 문드림 기술을 엔비디아 서버에서 오픈 모델을 더 빠르고 저렴하게 실행하는 데 쓰려는 계획이 보도됐지만, 프라임 인퍼런스에 통합됐다는 발표는 나오지 않았다.
오픈 모델 경쟁은 모델 성능을 넘어 GPU와 추론 인프라, 배포 도구로도 확대되고 있다. 오픈 웨이트 모델 경쟁이 GPU와 추론 인프라로 이어지는 흐름을 다룬 본지 보도도 있다.
프라임 인텔렉트는 7월 1억3000만달러(약 1734억원) 규모 시리즈A 투자를 마쳤으며 당시 기업가치는 10억달러(약 1조3340억원)로 보도됐다. 인수 금액은 공개되지 않아 투자 규모와 거래 가격을 비교할 수 없다.
문드림의 기존 오픈소스 모델을 누가 관리할지, 인수 이후에도 같은 이용 조건이 유지될지는 발표되지 않았다. 기술 통합 일정과 모델 관리 계획도 공개되지 않았다.
댓글 0
불러오는 중…