기업들이 구글 클라우드의 Kubernetes 플랫폼인 GKE(Google Kubernetes Engine)를 AI 워크로드에 맞춰 확장하는 데 속도를 내고 있다. 과거에는 규모 확장이 이론적 가능성에 머물렀다면, 이제는 현실적인 과제로 전환되면서 대규모 클러스터 운영의 효율성과 성능 유지가 주요 과제가 되고 있다. 클라우드 인프라에서 GKE의 확장성과 비용 균형, 그리고 다양한 워크로드의 조율이 핵심 이슈로 부각되고 있다.

최근 미국 시카고에서 열린 KubeCon + CloudNativeCon 2025 행사에서 구글 클라우드의 쿠버네티스 엔지니어링 디렉터 제이고 맥클라우드(Jago Macleod)는 AI 도입을 계기로 GKE 스케일링의 실제 적용 사례가 늘고 있다고 설명했다. 그는 특히 동적 자원 할당(Dynamic Resource Allocation, DRA) 기능을 공식 출시하며, 이 기술이 AI 훈련 및 추론용 클러스터 최적화에 결정적인 역할을 하고 있다고 강조했다.

맥클라우드는 대규모 학습 작업을 수행하는 AI 기업들이 더 이상 VM 또는 베어메탈 환경에서 전통적인 방식으로 슬럼(Slurm)을 배포하는 것을 원하지 않는다며, 쿠버네티스 기반 자원 관리가 점점 산업 표준으로 자리 잡고 있다고 밝혔다. 이를 뒷받침하듯 레드몽크(RedMonk)의 수석 분석가 케이트 홀터호프(Kate Holterhoff)는 "AI 시스템이 점차 대중화되면서 커뮤니티 기반의 실천 지침을 따르려는 시도가 늘고 있다"고 말했다. 그녀는 특히 AI 성능 표준화를 통한 워크플로우 일관성이 중요한 화두로 떠오르고 있다고 분석했다.

엔터프라이즈 환경에서 GKE의 상한 규모를 밀어올리고 있는 주요 동력은 무엇보다도 GPU 자원의 대규모 활용이다. 구글 클라우드 제품 관리자 가리 싱(Gari Singh)은 “수십만 개의 GPU를 단시간에 조달하고 작업이 끝나면 다시 줄이는 방식이 요구된다”며, 지금의 오토스케일링과 스케줄링 기능이 노드 상태와 업데이트, 자원 배치까지 실시간으로 관리할 수 있어야 한다고 강조했다.

특히 AI용 모델 학습이 과거보다 훨씬 대규모로 이뤄짐에 따라, 클러스터 제어 영역(Control Plane)의 안정성 확보와 노드 추가 능력이 인프라 전략의 핵심으로 부상하고 있다. 실시간 배포와 리소스 회수는 단순한 기술적 과제를 넘어 운영 효율성과 직결되는 과제로, 이에 맞춘 시스템 설계가 속속 이뤄지고 있는 것이다.

이번 발표와 대담은 실리콘앵글(SiliconANGLE) 산하의 라이브 스트리밍 채널인 더큐브(theCUBE)를 통해 생중계되었으며, 구글 클라우드가 공식 후원했으나 콘텐츠의 편집 방향에 직접적인 영향은 미치지 않았다. AI 확산과 더불어 클라우드 인프라의 새로운 진화 방향을 고민하는 기업들에게 이번 GKE의 발전 사례는 미래 운영 전략의 중요한 참고가 되고 있다.