코드 기반의 전통적인 소프트웨어 개발 방식은 인공지능(AI)이 주도하는 시대에 들어서며 점차 효력을 잃어가고 있다. 확정적인 알고리즘 대신 비결정적인 AI 모델이 활용되기 시작하면서, 기업들은 더는 단순한 배포 반복 루틴만으로는 혁신적인 제품을 만들어낼 수 없는 상황을 마주하고 있다. 특히 실험 중심의 개발 문화를 요구하는 AI 환경에서는 새로운 AI 개발 인프라가 필수 인프라로 부상하고 있다.

AI 중심 소프트웨어는 단순한 기능 구현을 넘어 확률적인 결과를 바탕으로 다양한 패턴을 도출하기 때문에, 한 번의 정해진 로직으로 완성되는 구조가 아니다. 유니언에이아이(Union.ai)의 최고경영자 케탄 우마레는 "AI를 활용한 소프트웨어 개발은 기존의 개발이 아닌 연구의 영역에 더 가깝다"며, "우리는 더 이상 직관적으로 확신할 수 있는 로직을 쓰는 것이 아니라 수많은 실험을 병행하면서 최적의 해법을 찾아가는 방식으로 접근해야 한다"고 설명했다.

우마레는 AWS 리인벤트 행사에서 실리콘앵글의 라이브 방송 플랫폼인 '더큐브(theCUBE)'와 가진 인터뷰에서, 자사의 멀티클라우드 기반 AI 개발 플랫폼이 어떻게 변화된 소프트웨어 패러다임에 대응하고 있는지를 공유했다. 유니언에이아이는 제어부(Control Plane)와 실행부(Execution Plane)를 분리한 설계를 통해 고객이 자사 클라우드나 온프레미스 환경에 민감 데이터를 보관하면서도 효율적으로 워크플로우를 운용할 수 있도록 지원한다.

이 플랫폼은 컨테이너화, 데이터 이동, 보안 권한 설정 그리고 GPU 스케줄링 등 다양한 기능을 자동화한다. 개발자는 단순히 파이썬으로 코드를 작성하고 버튼 하나만 누르면, 시스템이 이를 자동으로 컨테이너화하고 배포까지 수행한다. 우마레는 이 과정을 “버튼 하나로 클라우드에 ‘YOLO’하는 형태”라고 비유하며, 필요한 인프라를 자동으로 구축하고 사전 프로비저닝까지 수행하는 구조라고 강조했다. 이는 AI 개발 인프라의 핵심인 멀티클라우드 연동성과 자동화 능력을 극대화한 구현 사례다.

플랫폼의 설계 철학은 비용 최적화에도 철저히 맞춰져 있다. 다양한 실험을 병행해야 하는 AI 프로젝트 특성상, 동일한 자원을 중복 활용하는 비효율을 줄이는 것이 핵심이다. 이를 위해 유니언에이아이는 AWS의 예약 인스턴스를 활용해 리소스를 탄력적으로 배분하며, 반복되는 결과는 캐시를 통해 응답 성능을 높인다. 우마레는 "AI라는 제품은 연구 기반이기 때문에 불확실성을 제거할 수는 없지만, 비용은 충분히 전략적으로 줄일 수 있다"고 말했다.

시장 반응도 가시적이다. 불과 46명으로 구성된 유니언에이아이는 올해 들어 매출을 4배 끌어올리며 빠르게 성장했고, 이에 따른 개발 인프라 수요 증가에 효과적으로 대응하고 있다. 점점 더 많은 기업들이 불확실성을 감내하되 효율성을 확보하려는 선택지로 실험 기반 AI 인프라를 채택하고 있다는 점에서, 이 분야는 향후 기업 경쟁력의 핵심 요소로 자리매김할 전망이다.