아라냐, AI 추론 병목 겨냥 ‘클러스터드OS’ 공개…쿠버네티스 운영 부담 낮춘다

인공지능(AI) 추론 수요가 급증하는 가운데 아라냐가 대규모 클러스터 운영체제 ‘클러스터드OS’를 공개했다. 회사는 복잡한 쿠버네티스 운영 부담을 낮춰, 전용 플랫폼 팀 없이도 AI 슈퍼컴퓨터급 인프라를 빠르게 구축할 수 있다고 강조했다.

2025년 설립된 아라냐(Aranya Inc.)는 ‘차세대 슈퍼컴퓨터’ 수요에 맞춘 클러스터 규모 운영체제를 개발하는 스타트업이다. 정식 출시와 함께 엔비디아(Nvidia)의 클라우드 파트너이자 베어메탈 배포에 강점을 둔 하이드라 호스트와 주요 협력 관계도 발표했다. 베어메탈은 가상화 계층 없이 물리 서버 자원을 직접 활용하는 방식으로, 고성능 AI 추론 환경에서 주목받는 구조다.

아라냐가 내세운 핵심은 AI 인프라의 ‘실행’ 문제다. 회사 측은 지금까지 고성능 모델을 실제 서비스에 올리려면 대규모 전담 플랫폼 조직이 사실상 필수였다고 진단했다. 반면 이런 조직이 없는 기업은 관리형 클라우드 서비스에 의존하게 되는데, 초기 도입은 쉽지만 대규모 확장 단계에서는 비용 부담과 제어권 한계가 커진다는 설명이다. 맞춤형 인프라는 유연하지만, 이를 운영할 고급 엔지니어링 인력을 확보하기 어렵다는 점도 병목으로 꼽았다.

쿠버네티스 복잡성 줄여 ‘48시간 구축’ 제시

클러스터드OS는 쿠버네티스, 분산 시스템, AI 인프라 사이의 간극을 메우는 오픈소스 기반 분산 운영체제로 소개됐다. 원시 컴퓨팅 자원을 바로 생산 환경에 투입할 수 있는 AI 슈퍼컴퓨터 형태로 바꾸고, 클러스터 부트스트래핑부터 유지보수, 업그레이드까지 전체 수명주기를 적은 운영 부담으로 처리하는 것이 목표다. 또 간단한 상위 기능 플래그 방식으로 분산형 클라우드 네이티브 애플리케이션을 추가하고 버전 관리할 수 있도록 설계됐다고 회사는 설명했다.

아라냐에 따르면 하이드라 호스트는 클러스터드OS 도입 이후 생산용 클러스터 구축 시간을 기존 2~6주에서 48시간 이내로 줄였다. 반복적으로 발생하던 데이터센터 장애를 상쇄하는 맞춤형 아키텍처도 구축해, 클러스터 다운타임을 90% 낮췄다는 게 회사 측 주장이다.

하이드라 호스트 공동창업자이자 최고경영자(CEO) 에런 긴(Aaron Ginn)은 “점점 더 많은 고객이 단순한 인프라를 넘어 더 빠르고 안정적인 생산 환경 진입 경로를 원한다”며 “하이드라 호스트의 베어메탈 컴퓨팅과 운영 지원, 아라냐의 쿠버네티스 전문성이 결합돼 더 적은 복잡성으로 실제 워크로드를 배포하고 확장할 수 있는 보다 완성도 높은 해법을 제공하게 됐다”고 말했다.

1,700개 넘는 GPU 운영…AI 인프라 경쟁의 새 전장

아라냐는 공식 출시 이전부터 파트너사들이 1,700개 이상의 그래픽처리장치(GPU)에서 클러스터드OS를 배포해 대규모 핵심 추론 파이프라인을 운영하고 있다고 밝혔다. 여기에 24시간 모니터링, 보안 패치, 맞춤형 통합 기능을 제공해 별도 플랫폼 팀 필요성을 줄였다고 덧붙였다.

다만 회사는 출시 시점 투자사와 구체적인 자금 조달 내역은 공개하지 않았다. 공개 기록상으로는 초기 단계 벤처캐피털 자금을 유치한 것으로 파악된다.

시장 관점에서 보면 이번 출시는 AI 경쟁의 초점이 모델 성능 자체에서 ‘운영 효율’로 옮겨가고 있음을 보여준다. 추론 수요가 늘수록 기업들은 GPU 확보뿐 아니라 이를 안정적으로 묶어 서비스 단계까지 연결하는 소프트웨어 계층을 더 중요하게 보기 시작했다. 특히 추론 비용 최적화와 장애 대응, 배포 속도는 AI 서비스 수익성과 직결되는 요소다.

아라냐는 앞으로 AI 비서가 일상 업무에 깊숙이 들어오면, 개발자 한 명이 요구하는 컴퓨팅 자원이 과거 팀 단위 수준에 가까워질 수 있다고 보고 있다. 이 경우 클러스터 운영체제는 선택이 아니라 필수 인프라가 될 가능성이 크다. 결국 아라냐의 승부처는 ‘누구나 대규모 추론 클러스터를 쉽게 다룰 수 있게 하겠다’는 약속을 실제 현장에서 얼마나 입증하느냐다.