씽킹머신스, 구글 클라우드와 협력 확대…수조 원대 계약설

미라 무라티가 이끄는 인공지능 스타트업 씽킹머신스랩이 구글 클라우드와 협력을 확대한다. 업계에서는 이번 계약 규모가 ‘한 자릿수 십억달러’ 수준, 원화로 약 1조4,774억~13조2,966억원에 이를 수 있다는 관측이 나온다.

이번 발표는 씽킹머신스랩이 구글 LLC의 클라우드 플랫폼 활용 범위를 넓히는 내용이 핵심이다. 테크크런치는 소식통을 인용해 계약 가치가 수십억달러에 달한다고 전했다. 씽킹머신스랩은 오픈AI 최고기술책임자(CTO) 출신 미라 무라티가 이끄는 회사로, 오픈소스 대형언어모델(LLM)을 기업 맞춤형으로 조정할 수 있게 돕는 ‘팅커’ 클라우드 서비스를 운영하고 있다.

AI 인프라 이전과 핵심 사양

회사는 일부 워크로드를 구글 클라우드의 ‘A4X 맥스’ 인스턴스로 이전할 예정이다. 이 인스턴스는 AI 모델 구동에 특화된 고성능 가상머신이다. 각 인스턴스는 엔비디아의 블랙웰 울트라 GPU 4개를 제공하며, 72코어 중앙처리장치(CPU) 2개가 함께 탑재된다.

이 칩들은 엔비디아가 제작한 액체 냉각 방식의 ‘GB300 NVL72’ 시스템에서 구동된다. 해당 장비는 37테라바이트(TB) 메모리와 초당 130테라비트(Tbps)의 내부 대역폭을 지원한다. 구글 클라우드는 씽킹머신스랩이 자사 NVL72 인프라를 활용하는 초기 고객 중 하나라고 설명했다.

네트워크 구조와 운영 환경

성능 향상의 배경에는 네트워크 구조도 있다. A4X 맥스 인스턴스는 ‘RoCE’ 기술을 활용해 데이터 전송 과정 일부를 줄이고 처리량을 높인다. 여기에 ‘레일 정렬 토폴로지’ 구조를 적용해 GPU 간 전용 연결 경로를 만들고, 데이터가 목적지에 도달하기까지 거치는 단계인 ‘홉’을 최소화했다. 이는 대규모 AI 학습과 추론 작업의 지연 시간을 줄이는 데 유리하다.

구글은 엔비디아의 커넥트X 네트워크 인터페이스 카드(NIC)와 자체 개발한 티타늄 NIC를 함께 사용해 GPU 트래픽을 조율하고 있다. 커넥트X는 GPU 간 데이터 흐름을 관리하고, 티타늄 NIC는 다른 구글 클라우드 서비스와 연결되는 외부 트래픽 처리를 맡는다. 씽킹머신스랩은 이미 구글 클라우드 스토리지, 스패너 관계형 데이터베이스, 맞춤형 캐시 시스템, 클러스터 디렉터 등을 활용해 워크로드를 운영 중이다. 특히 클러스터 디렉터는 일부 기술적 장애를 자동으로 복구하는 역할을 한다.

투자 배경과 시장 해석

이번 협력 확대는 엔비디아가 최근 씽킹머신스랩에 ‘상당한 투자’를 단행했다고 공개한 지 몇 주 만에 나왔다. 해당 자금은 회사가 앞으로 수십억달러 규모의 하드웨어를 구매하는 더 큰 계약의 일부로 알려졌다. 씽킹머신스랩은 향후 블랙웰 울트라의 후속 제품인 ‘루빈’도 도입할 계획이다.

시장은 이번 계약을 단순한 클라우드 고객 유치가 아니라, 생성형 AI 인프라 주도권 경쟁의 연장선으로 보고 있다. 구글 클라우드는 엔비디아 최신 반도체와 자체 네트워크 기술을 결합해 대형 AI 고객을 선점하려 하고, 씽킹머신스랩은 이를 바탕으로 모델 개발과 서비스 확장 속도를 끌어올리려는 구도다. AI 스타트업과 빅테크의 결합이 더 긴밀해지는 흐름이 다시 확인됐다는 평가가 나온다.