AI 데이터센터의 부상과 함께 전력 소비 문제 해결이 업계 최대 과제로 떠오른 가운데, 반도체 설계 기업 암홀딩스(Arm Holdings)가 새로운 대응책을 제시하고 나섰다. 암은 오늘 오픈 컴퓨트 프로젝트(Open Compute Project, OCP)와 협력해 차세대 칩렛(Chiplet) 표준을 공개하며, AI 데이터센터를 위한 고효율 인프라 설계에 본격 착수했다고 밝혔다.

암이 제시한 방식은 전통적인 서버 보드 설계에서 벗어나 시스템 온 칩(SoC) 구조를 기반으로 한 집적형 시스템 구축이다. 기존 데이터센터는 중앙처리장치(CPU), 그래픽처리장치(GPU), 메모리, 네트워크 장비 등이 각 보드에 분산돼 연결됐지만, 이제는 이 모든 요소를 하나의 SoC 패키지 안에 통합해 전력 손실과 지연 시간을 줄이겠다는 목표다. 이 같은 전략을 가능케 하는 핵심 기술이 바로 칩렛이다.

칩렛은 대형 프로세서를 작은 모듈 단위로 나눠 설계하는 방식으로, 레고처럼 맞춤형 구성이 가능하다는 점에서 주목받고 있다. 암은 이번 발표에서 ‘FCSA(Foundation Chiplet System Architecture)'라는 새로운 칩렛 시스템 표준도 공개했다. 이는 반도체 업체 간 호환성 향상과 설계 효율화를 목표로 한다.

암의 인프라 부문 총괄 부사장 모하메드 아와드(Mohamed Awad)는 “미래 AI 데이터센터는 더는 범용 칩들로는 운영이 어렵다”며 “더 높은 밀도를 구현하기 위해서는 특화된 칩셋 설계가 필수”라고 강조했다.

암은 이와 함께 '토탈 디자인(Total Design)' 생태계도 확장하고 있다. 지난 2023년 첫선을 보인 이 프로그램은 설계 파트너사 지원을 통해 전체 SoC의 개발 기간과 비용을 단축하는 것이 목표다. 현재 총 46개 업체가 참여 중이며, 이번에는 아스테라 랩스(Astera Labs), 리벨리온스(Rebellions), 마벨 테크놀로지(Marvell Technology)를 포함한 10개 기업이 새롭게 합류했다. 이들 기업은 칩렛의 I/O, 메모리 인터페이스, AI 가속 등 핵심 기술 설계에 참여할 예정이다.

전문가들은 이 같은 모듈화 설계의 확대가 AI 가속기 발전을 한층 가속화할 것으로 보고 있다. 암 마케팅 부사장 에디 라미레즈(Eddie Ramirez)는 “AI 연산 수요 증가는 데이터센터 ‘랙 밀도’와 전력 소비 증가로 이어지고 있다”며 “칩렛 방식은 단위 와트(W)당 연산 효율을 극대화해 비용을 절감할 수 있다”고 설명했다.

실제로 과거 데이터센터 한 랙엔 30~40대 서버가 설치됐으나, 현재 AI 데이터센터에서는 최대 100대까지 탑재되며 소비 전력도 10킬로와트(kW) 이하에서 100킬로와트 수준으로 급증했다. 이에 따라 업계는 더 적은 전력으로 더 많은 연산을 처리하는 ‘고밀도 저전력’ 설계에 몰두하고 있다.

이번에 암이 보드멤버로 합류한 오픈 컴퓨트 프로젝트는 메타(Meta), 구글(GOOGL), 인텔(INTC), 마이크로소프트(MSFT) 등 대형 기술기업이 주도하는 글로벌 오픈 하드웨어 이니셔티브다. OCP는 벤더 중립적인 표준과 장비 설계를 지향하는 만큼, 암의 칩렛 아키텍처는 업계 전반에 걸쳐 빠르게 확산될 가능성이 크다.

AI 인프라 시장이 급팽창하는 가운데, 암의 행보는 단순한 반도체 설계기업을 넘어 미래 데이터센터 설계 표준을 주도하겠다는 의지를 보여준다. 칩렛 중심 구조가 실제 AI 연산 효율과 비용 최적화에 어느 정도 기여할 수 있을지, 향후 전개가 주목된다.