AI 인프라 판 흔드는 타호, 50억 시드 투자 유치…쿠버네티스에 도전장

AI 워크로드 전용 고성능 컴퓨팅 프레임워크를 개발 중인 스타트업 타호(Taho)가 350만 달러(약 50억 원) 규모의 시드 투자를 유치하며 쿠버네티스를 겨냥하고 나섰다. 인프라 기술력을 강점으로 내세운 이 회사는 메타, 구글, 스냅 출신의 베테랑 개발자들이 주축을 이루고 있다. 이번 투자에는 전략적 엔젤 투자자와 업계 주요 인사들이 참여했으나, 구체적인 명단은 공개되지 않았다.

타호가 개발한 컴퓨팅 프레임워크는 AI 처리 속도를 최대 2배까지 끌어올리는 동시에 비용을 90% 가까이 절감할 수 있다고 주장한다. 그 핵심은 복잡한 런타임과 과도한 인프라 소프트웨어를 제거하고, 간단하며 빠른 방식으로 클라우드·온프레미스·엣지 환경 전반에 걸쳐 AI 작업을 배포하는 구조다.

오픈소스 소프트웨어인 쿠버네티스(Kubernetes)는 현대 애플리케이션 구성 요소를 관리하고 실행하는 데 사실상 표준으로 자리 잡았지만, 타호의 공동 창업자 겸 CEO 토드 스미스는 "쿠버네티스는 대규모 AI 워크로드에는 최적화되지 않았다"고 지적했다. 그는 "전체를 대체하려는 게 아니라 쿠버네티스 내부의 오케스트레이션과 스케줄링 기능만을 겨냥하고 있으며, 기존 파이프라인에도 무리 없이 통합할 수 있도록 설계됐다"고 말했다.

타호는 사용 가능한 컴퓨팅 자원을 연결해 하나의 지능형 슈퍼컴퓨터처럼 작동하는 분산 시스템을 구현한다. 이 시스템은 AI 학습, 추론, 시뮬레이션 등 고성능 작업에 최적화돼 있으며, 작업을 세분화해 위치에 관계없이 병렬 처리한 뒤 이를 실시간으로 재조합한다. 그 결과 중복된 계산 작업은 사라지고, 전반적인 처리 효율이 급격하게 향상된다는 설명이다.

토드 스미스는 "기존의 중앙 집중형 제어 방식 대신, 타호는 훨씬 더 세밀하게 작업을 나눠 클라우드부터 엣지까지 모든 자원을 아우르는 방식으로 구동된다"고 말했다. 이러한 방식은 특히 대용량 모델 학습처럼 상시 연산이 필요한 AI 환경에서 큰 성과를 낼 수 있다는 평가다.

다양한 소프트웨어 프레임워크와 연계 가능성도 타호의 강점으로 꼽힌다. 기존의 CI/CD(지속적 통합·지속적 배포) 환경에 별도의 변경 없이 탑재가 가능해, 설치 부담 없이 실행 성능과 비용 효율을 동시에 높일 수 있다.

타호는 이번 자금을 바탕으로 인력 확충과 초기 고객 기반 확대에 나설 예정이다. 회사 측은 내년부터 본격적인 제품 상용화를 시작할 계획이며, 클라우드 인프라 확장의 병목을 해결할 수 있는 새로운 AI 기반 컴퓨팅 패러다임을 제시하겠다고 밝혔다.