C-Gen.AI, GPU 인프라 자동화 플랫폼 공개… AI 슈퍼컴퓨터 겨냥

AI 인프라 스타트업 C-Gen.AI가 그래픽처리장치(GPU) 기반 오케스트레이션 플랫폼을 전격 출시하며 본격적인 시장 공략에 나섰다. 이 플랫폼은 데이터센터 사업자가 AI 클러스터 구축을 자동화하고 하드웨어 자원을 최대한 효율적으로 활용할 수 있도록 설계됐다. 고성능 GPU가 필요한 생성형 AI 시장 확대 속에서 이번 솔루션은 비용 절감과 인프라 운영 최적화를 동시에 겨냥한다.

GPU는 챗GPT 같은 대형 AI 모델의 연산 핵심 자원으로, 이를 다루는 인프라 관리에는 막대한 시간과 비용이 들어간다. 지금까지는 GPU 자원을 수동으로 설정하고 관리하는 방식이 일반적이었지만, C-Gen.AI는 이러한 비효율을 AI 기반 소프트웨어로 해결하겠다는 전략이다. 이번에 공개한 GPU 오케스트레이션 플랫폼은 기존 GPU 클러스터 위에 탑재돼, 클러스터 초기 설정부터 스케일 확장, 유휴 리소스 재할당까지 통합 관리가 가능하다.

C-Gen.AI는 자사 플랫폼을 'AI 슈퍼컴퓨터'로 탈바꿈시키는 솔루션으로 규정하며, 특히 리소스 낭비 없이 실시간으로 GPU를 할당하고 운영 효율을 극대화할 수 있다는 점을 강조했다. 유휴 GPU는 자동으로 추론 작업에 투입돼 수익 창출 가능성도 높인다.

창업자이자 CEO인 사미 카마(Sami Kama)는 NVIDIA, AWS, 유럽입자물리연구소(CERN) 등에서 데이터센터 성능 최적화 경험을 쌓은 인프라 전문가다. 그는 "AI 프로젝트 대부분은 인프라 단계에서 막히고, 이로 인해 수천만 달러 규모의 GPU가 비효율적으로 사용되고 있다"고 지적하며 "이번 플랫폼은 '빠른 배포, 자원의 재활용, 유연한 확장성'이라는 세 가지 키워드에 방점을 찍고 있다"고 설명했다.

C-Gen.AI는 대기업뿐 아니라 중소 데이터센터, AI 스타트업까지 사용자층을 넓히겠다는 계획도 밝혔다. 예컨대 기존에는 새로운 AI 프로젝트를 시작할 때마다 전체 인프라를 다시 설계·구축해야 했던 AI 스타트업들이 이 플랫폼을 활용하면 몇 분 만에 필요한 연산 자원을 가동할 수 있다. 소규모 데이터센터의 경우, 아마존웹서비스(AWS)나 구글 클라우드처럼 대규모 리소스를 갖추진 않았지만, 유휴 GPU를 실시간 추론에 투입하면 단위 수익률을 크게 올릴 수 있다.

시장조사업체 가트너에 따르면 올해 전 세계 생성형 AI 시장 지출은 6440억 달러(약 928조 원)에 이를 전망이다. 이 가운데 상당 부분은 비효율적인 인프라와 기술 부채로 인한 비용이라는 지적이 제기된다. 카마는 이에 대해 "효율적이지 못한 인프라는 기업의 AI 도입을 망가뜨리는 주범"이라며, "C-Gen.AI는 이런 문제를 근본적으로 해결해주는 기초 체계"라고 강조했다. 그는 "AI는 거창한 알고리즘이 아니라 견고한 인프라에서 시작돼야 한다"고 덧붙였다.