AI 애플리케이션의 개발 효율성 강화를 목표로 하는 스타트업 오픈라우터(OpenRouter)가 25일(현지시간) 총 4,000만 달러(약 576억 원)의 투자 유치에 성공했다고 발표했다. 이 회사는 앤드리센 호로위츠와 멘로 벤처스를 포함한 벤처캐피털의 주도 아래 두 차례의 투자 라운드를 통해 이번 자금을 조달했다. 세쿼이아 캐피털과 복수의 엔젤 투자자들도 참여하며 관심을 더했다.
오픈라우터는 다양한 AI 모델을 쉽게 교체하고 활용할 수 있도록 지원하는 클라우드 기반 API 서비스를 제공한다. 기존에는 AI 공급자마다 사용하는 API 형식이 달라, 개발자가 여러 모델을 익히는 데 오랜 시간이 소요됐다. 하지만 오픈라우터는 60개 이상의 AI 회사 모델에 하나의 통합 API로 접근할 수 있도록 해, 개발자들의 학습 부담과 개발 시간을 획기적으로 줄이고 있다.
특히 이 플랫폼은 AI 모델을 변경할 때도 개발자가 애플리케이션 코드를 별도로 수정할 필요가 없도록 설계됐다. 기존과 같은 재개발 비용과 시간 낭비를 줄여 소프트웨어 팀의 민첩성과 비용 효율성 모두를 높인다는 평가다.
과금 방식에서도 오픈라우터는 개발자 편의를 고려했다. 예를 들어 대형 AI 언어모델을 여러 곳에서 사용할 경우 일반적으로 업체별로 별도 계약을 맺어야 하지만, 이 플랫폼은 통합 결제 시스템을 도입해 하나의 크레딧으로 다양한 AI 서비스를 이용할 수 있게 했다.
또한 고도화된 장애 대응 기능도 제공한다. 특정 AI 모델이 일시 중단될 경우, 시스템이 자동으로 대체 모델로 요청을 전환해 애플리케이션 중단 가능성을 낮춘다. 여기에 이용자가 요청 유형에 따라 모델 선택 기준을 직접 설정할 수 있는 맞춤형 필터 기능까지 더해졌다. 예를 들어, 연산이 복잡한 프롬프트는 추론 능력이 뛰어난 모델에, 대용량 데이터를 포함한 요청은 컨텍스트 윈도우가 큰 모델에 할당하는 식이다.
비용 최적화 기능도 눈에 띈다. 오픈라우터는 저비용 모델을 우선 사용하는 설정이 가능하며, 잦은 요청에 대한 응답을 캐싱해 반복적 추론을 방지함으로써 전체 추론 비용을 낮출 수 있다.
서비스는 일반 API 외에 기업 고객을 위한 엔터프라이즈 버전도 별도로 운영 중이다. 보다 강력한 기술 지원, 낮은 지연 시간, 높은 처리량을 확보한 이 버전은 AI를 적극 도입하는 대규모 조직을 타깃으로 하고 있다.
회사는 자사 플랫폼이 월간 8조 4,000억 개의 토큰을 처리하며, 지난 4월 기준 연환산 기준으로 1억 달러(약 1,440억 원) 이상의 '추론 비용'을 관리하고 있다고 밝혔다. 이는 불과 6개월 만에 10배 급증한 수치다.
이번에 확보한 신규 자금은 제품 확장에 집중 투자될 예정이다. 오픈라우터는 현재 400개 이상의 AI 모델을 지원하고 있으며, 이를 더욱 확대하고 엔터프라이즈 에디션에 추가 기능을 도입한다는 계획이다. AI API 통합 플랫폼이 극심한 경쟁 시장 속에서 살아남기 위한 전략으로, 기업 고객과 개발자 생태계의 반응이 주목된다.