아마존웹서비스(AWS)가 온프레미스에서의 인공지능(AI) 인프라 구성을 위해 대대적인 신제품군을 공개하며 클라우드와 사내 시스템 모두를 포괄하는 AI 전략 강화에 나섰다. 이번 발표의 핵심은 ‘AI 팩토리’라는 신규 개념으로, 이는 고객사 데이터센터 내에 완전한 형태의 AI 스택을 통합 구축하는 형태의 서비스다. AWS는 독립적이면서 규제를 준수하는 환경에서 빠르게 AI 인프라를 구축할 수 있다는 점을 강조한다.

AI 팩토리는 엔비디아(NVDA)의 가속 컴퓨팅 기술과 AWS 트레이니엄(Trainium) 칩, 고속 저지연 네트워크, 에너지 효율적인 인프라, 그리고 아마존 베드록(Amazon Bedrock), 세이지메이커(SageMaker)를 접목한 풀스택 형태로 제공된다. 주요 타깃은 정부 기관과 금융, 헬스케어 등 고강도 규제가 뒤따르는 산업군이다. 고객은 자사 전력·통신망 인프라를 활용할 수 있어 구축 유연성이 높고, AWS는 전반적인 인프라 운영과 수명 주기를 총괄한다.

AWS는 이번 발표와 함께 엔비디아와의 협력도 더욱 강화했다. 엔비디아의 그레이스 블랙웰(Grace Blackwell), 차세대 베라 루빈(Vera Rubin) 아키텍처와의 연계를 예고하며, 차기 트레이니엄4(Trainium4) 칩에는 엔비디아의 NVLink Fusion 기술도 통합될 예정이다. 엔비디아의 하이퍼스케일 및 HPC부문 부사장 이안 벅(Ian Buck)은 “고성능 AI는 가속기, 네트워크, 소프트웨어가 유기적으로 연결된 풀스택이 필요하다”며 “AWS와의 협력으로 이를 고객 환경 내부까지 확대하겠다”고 설명했다.

신형 AI 칩 트레이니엄3를 적용한 EC2 Trn3 UltraServer도 정식 출시됐다. 이 시스템은 최대 144개의 트레이니엄3 칩을 탑재 가능하며, 전 세대 대비 연산 성능은 최대 4.4배, 에너지 효율은 4배 높다. 저지연 네트워크가 탑재돼 10마이크로초 이하의 칩 간 통신 속도를 구현한다. 오픈AI의 오픈모델 GPT-OSS 기준 벤치마크 결과에서는 칩당 처리량이 3배 향상됐고, 추론 응답 속도는 4배 빨라졌으며, 트레이닝 비용도 50% 감소했다는 고객사들이 등장했다. 안트로픽, 메타지노미, 리코, 넷토닷에이아이 등 주요 AI 스타트업이 초기 고객사로 확인됐다.

또한 AWS는 세계 최대 규모의 AI 추론 워크로드를 위한 엔비디아 GB300 NVL72 플랫폼 기반의 P6e-GB300 UltraServer도 공개했다. 이는 EC2 인스턴스 중 가장 높은 GPU 메모리 및 연산 밀도를 자랑하며, 초거대 언어 모델 추론과 고난도 AI 연산을 위한 최적화 모델이다. AWS 니트로 시스템 기반에서 작동하며, 엘라스틱 쿠버네티스 서비스(EKS)와 통합돼 보안성과 운영 효율성을 동시에 확보했다.

AWS는 단순한 성능 개선을 넘어 공공기관과 대규모 산업 관할에서의 ‘주권형 AI(Sovereign AI)’ 수요를 정조준하고 있다. 앞서 데이터를 외국 클라우드로 전송하기 어려운 유럽 시장 등을 공략하려는 빅테크들의 움직임과도 맞물린다. 이번 발표는 AWS가 퍼블릭 클라우드와 프라이빗 환경 모두를 아우르며, AI 인프라의 글로벌 표준을 재정의하려는 포석으로 해석된다.