투게더AI, AI 학습용 GPU 클러스터 플랫폼 ‘인스턴트 클러스터’ 정식 출시

인공지능 맞춤형 클라우드 서비스를 개발하고 있는 스타트업 투게더AI(Together AI)가 새로운 GPU 인프라 서비스 ‘인스턴트 클러스터(Instant Clusters)’를 공식 출시했다. 이 서비스는 그래픽처리장치(GPU) 클러스터 구축을 자동화함으로써 AI 모델 학습 및 배포에 필요한 인프라 확보를 쉽고 빠르게 해주는 것이 핵심이다.

투게더AI는 이번 서비스가 단일 API를 통해 요청할 수 있으며, 8개의 GPU를 장착한 단일 노드부터 수백 개 GPU에 걸친 다중 노드 클러스터까지 유연한 구성이 가능하다고 밝혔다. 엔비디아(NVDA)의 최신 호퍼(Hopper) 및 블랙웰(Blackwell) GPU를 지원하며, 분산 학습이나 탄력적 추론과 같은 고난도 AI 워크로드에 최적화됐다는 설명이다.

이번 정식 출시에 앞서 인스턴트 클러스터는 여름부터 베타 테스트를 진행해 왔다. 정식 서비스에는 사용자의 피드백을 반영해 자동 스케일링 기능 강화, 인프라 재활용 기능, 인프라 자동화 도구인 스카이파일럿(Skypilot) 및 테라폼(Terraform) 지원 등이 추가됐다. 특히 원활한 클러스터 재가동 및 데이터 재탑재 기능은 대규모 모델 개발에서 자주 발생하는 학습 일시 중지 및 재시작 시나리오에 유용하다.

투게더AI 측은 GPU 인프라가 기존 CPU 기반 가상화 환경과 본질적으로 다르기 때문에, 그간 구성 작업이 수작업 중심이었으나 새 서비스는 이 과정을 획기적으로 단축시킬 수 있다고 강조했다. 일반적인 클라우드 인프라처럼 사용자 친화적인 인터페이스를 제공하면서도 GPU 오퍼레이터, 네트워크 연동 도구 등의 복잡한 설정을 사전 탑재해 바로 활용이 가능하도록 했다.

서비스는 쿠버네티스(Kubernetes), 슬럼(Slurm) 등 주요 오케스트레이션 도구에 최적화되어 있으며, CUDA 및 드라이버 버전을 사용자가 고정할 수 있고, 커스텀 컨테이너 이미지 재사용도 가능해 반복적 AI 작업에 유리하다. 저장소는 POSIX 호환 병렬 파일 시스템 기반이며, 스토리지와 연산 자원을 독립적으로 확장할 수 있도록 설계됐다.

요금제는 사용 시간에 따라 다양하게 선택할 수 있다. 예를 들어 중급 성능의 엔비디아 HGX H100 추론 클러스터는 시간당 1.76~2.39달러(약 2,500~3,400원) 수준이며, 최상급 사양인 B200 클러스터는 장기 계약 시 시간당 4달러(약 5,800원), 주문형 이용 시 5.50달러(약 7,900원)가 부과된다. 투게더AI는 “기업이 동일한 성능을 직접 구축하려 할 경우 가격 경쟁력이 크게 떨어질 것”이라며 비용 효율성을 강조했다.

AI 개발 속도와 효율성 향상에 대한 시장의 요구가 커지는 가운데, 인스턴트 클러스터는 GPU 인프라의 접근성을 높이고 복잡도를 줄이는 데 기여할 것으로 기대된다. AI 워크로드 특성에 최적화된 인프라가 필수인 만큼, 클라우드 기반 자원 활용 방식은 앞으로 더 많은 주목을 받을 전망이다.