구글에서 선호하는 출처로 추가

인퍼랙트, vLLM 상용화 겨냥해 1억5000만달러 유치

vLLM 창립자와 핵심 유지관리자들이 세운 인퍼랙트가 1억5000만달러(약 2019억원) 규모의 시드 투자를 유치했다. 투자 후 기업가치는 8억달러(약 1조원)로 공개됐다.

토포AI로 이 기사 더 깊이 읽기

노트북 화면에 열린 오픈소스 추론 엔진 코드 / TokenPost.ai

vLLM 창립자와 핵심 유지관리자들이 세운 인퍼랙트가 1억5000만달러(약 2019억원) 규모의 시드 투자를 유치했다. 투자 후 기업가치는 8억달러(약 1조원)로 공개됐다.

인퍼랙트는 2026년 1월 22일 투자 유치를 발표했다. 쿨리(Coley)는 투자 규모가 1억5000만달러이고 투자 후 기업가치가 8억달러라고 공개했다. 안드리센호로위츠와 라이트스피드벤처파트너스가 공동으로 투자를 주도했고, 세쿼이아캐피털과 알티미터캐피털 등이 참여했다.

인퍼랙트는 vLLM 프로젝트에 재정과 개발 인력을 지원하고, 이를 기반으로 상용 추론 엔진을 구축하겠다고 밝혔다. 회사는 관리형 추론 서비스와 기업용 기능을 더하는 구상도 내놨다.

vLLM은 대규모 언어모델이 입력에 답을 생성하고 실제 서비스에서 이용자 요청을 처리하도록 돕는 오픈소스 추론·서빙 엔진이다. 추론은 학습을 마친 모델이 입력을 받아 답이나 결과를 만드는 과정이다. 요청이 동시에 들어올 때 연산 자원과 메모리를 효율적으로 쓰는 일이 중요하다.

vLLM 개발팀은 2023년 공개 글에서 PagedAttention을 핵심 기술로 소개했다. 운영체제의 가상 메모리 페이징에서 착안해 모델이 문맥을 처리하며 사용하는 키·값 캐시를 관리하는 방식이다.

개발팀은 당시 특정 비교 조건에서 PagedAttention을 적용한 vLLM이 허깅페이스 트랜스포머스보다 최대 24배 높은 처리량을 기록했다고 밝혔다. 이 수치는 당시 시험 결과로, 모든 모델과 하드웨어에서 같은 성능을 보장하지는 않는다.

인퍼랙트 공식 소개는 vLLM이 아파치 2.0 라이선스 프로젝트이며 PyTorch 재단이 관리한다고 설명했다. 인퍼랙트는 프로젝트를 지원하면서 그 기반으로 상용 제품을 만들 계획이다. 오픈소스 프로젝트와 투자 기업의 상용 제품이 함께 운영되는 구조다.

안드리센호로위츠는 이번 투자의 목적에 오픈소스 프로젝트 지원과 상용 추론 엔진 개발이 모두 포함된다고 설명했다. 구체적인 제품 가격과 매출 목표, 서비스 출시 일정은 발표되지 않았다.

인퍼랙트의 상용 서비스와 오픈소스 프로젝트가 어떤 방식으로 병행될지는 향후 공개될 제품과 운영 방식에서 드러날 예정이다.

오늘의 스탬프 0명이 오늘 찍었어요
오늘의 스탬프 0명이 오늘 찍었어요

0

    불러오는 중…

    토큰포스트 앱 다운로드 QR 코드 QR 코드 스캔하고
    ios, Android 앱
    다운로드 하기