AI 산업이 빠르게 확장되는 가운데, 신뢰성과 규제 준수가 중시되는 지금의 기술 환경에서 '검증된 설계(validated design)'가 인공지능 신뢰 구축의 핵심 전략으로 떠오르고 있다. 데이터센터 아키텍처와 AI 시스템 통합 경험이 풍부한 ZK리서치(ZK Research)의 수석 애널리스트 제우스 케라발라(Zeus Kerravala)는 최근 방송 인터뷰에서 “AI의 도입을 가속화하고 리스크를 줄이기 위한 핵심은 검증된 설계”라고 강조했다.

검증된 설계는 AI 시스템을 허술한 실험 단계에서 신뢰할 수 있는 기업용 솔루션으로 바꿔주는 역할을 한다. 특히 엔터프라이즈 수준의 배포가 필요한 상황에서, 사전 검증된 설계는 투명성과 규정 준수에 필수적이다. 케라발라는 “현재 씨스코와 엔비디아가 협업하고 있고, 퓨어스토리지와 아리스타가 엔비디아와 함께 턴키 AI 시스템을 구축하고 있다”며, 이런 협업 구조가 기업 입장에서는 최적의 선택이라고 평가했다. 그는 AI 시스템이 복잡해질수록 세밀한 튜닝이 중요하기에, 어떤 설정에서도 예측 가능한 결과를 제공하는 설계 구조가 필수라고 덧붙였다.

AI 설계의 성패는 결국 세 가지 인프라 요소에 달려 있다. 빠른 스토리지, 고속 네트워크, 그리고 고성능 프로세서 간의 완전한 연동이 그것이다. 케라발라는 “GPU의 중요성은 누구나 알고 있지만, 네트워크 대역폭이나 스토리지 접근 속도가 이를 따라주지 않으면 전체 시스템 효율이 떨어진다”고 지적했다. 그는 이러한 균형이 항상 맞춰져야 실시간 AI 추론이나 분산 학습 같은 고성능 작업이 가능하다고 설명했다.

AI 네트워크 인프라에서도 큰 변화가 진행 중이다. 케라발라는 저지연 고속 통신을 지원하는 인피니밴드(InfiniBand)가 고도로 결합된 AI 워크로드에 적합하며, 반면 이더넷이 더 친숙하고 비용 효율적인 선택지로 AI 확산에 널리 채택되고 있다고 강조했다. 그는 “과거엔 수많은 통신 프로토콜이 경쟁했지만 결국 이더넷이 살아남았다. 이제는 인피니밴드와 이더넷이 각자의 역할을 분담하며 공존하는 시대”라고 말했다.

이와 함께 클라우드 인프라의 새로운 단계인 ‘네오클라우드’ 개념도 부상하고 있다. 증가하는 AI 워크로드를 처리하기 위해 지역 데이터 주권을 보장하면서도 AI 연산을 위한 특화된 계층을 마련한 것이다. 케라발라는 “처음엔 클라우드와 네오클라우드가 병행되겠지만, 글로벌 기업이라면 자체 데이터센터의 재구축까지 고려해야 할 시점이 다가오고 있다”고 조언했다.

특히 대기업의 경우 기존 ‘리프-스파인’ 구조처럼 수평 확장만으론 부족하며, 랙 단위의 수직 통합 성능까지 고려해야 하는 상황이 됐다고 설명했다. 다양한 AI 모델과 방대한 데이터 세트를 수용하려면 설계 차원에서부터 유연성과 확장성을 담보해야 한다는 것이다.

이 같은 논의는 뉴욕증권거래소(NYSE)와 공동 주최한 AI 팩토리: 미래 데이터센터 행사에서 실시간으로 방송됐으며, AI 설계에 대한 산업계의 진지한 고민이 반영된 자리였다. AI 신뢰성과 실용성을 확보하려는 기업들에게, 검증된 설계는 이제 선택이 아닌 필수가 됐다.