AI 데이터센터의 생존 열쇠는 '액체 냉각'…공기팬 시대 종말 온다

| 김민준 기자

AI 데이터 센터 시장이 고성능 칩의 발열 문제로 새로운 기술적 한계에 직면하면서 액체 냉각(liquid cooling)이 핵심 해법으로 급부상하고 있다. 전통적인 공기 기반 냉각 방식으로는 최신 GPU가 생성하는 열을 감당하기 어려워지자 업계는 서버 내부의 GPU에 직접 냉각판(cold plate)을 부착하는 방식을 포함해 다양한 대안 마련에 돌입했다.

조너선 발론(Jonathan Ballon) 아이소토프 테크놀로지(Iceotope Technologies) CEO는 “AI 칩의 열을 직접 줄이기 위해 냉각판 도입이 활발하지만, 정작 데이터센터의 전환점은 서버 전반에 있는 전원 공급 장치, 네트워크, 저장장치까지 모두가 함께 뜨거워진다는 데 있다”고 지적했다. 업계는 특정 부품만 식히는 국지적 대응이 아닌, 전체 인프라를 고려한 종합 냉각 체계를 마련해야 한다는 목소리에 귀 기울이고 있다.

이번 발언은 SC25 콘퍼런스 현장에서 발론 CEO와 에이스 스트라이커(Ace Stryker) 솔리덤(Solidigm) AI·에코시스템 마케팅 디렉터가 공동 인터뷰를 진행하면서 주목받았다. 이들은 AI 산업의 병목 지점이 단순히 반도체 성능이 아닌, 이를 뒷받침할 수 있는 냉각 인프라에 있다는 점을 재차 강조했다.

아이소토프는 지난 10년간 공기 순환을 원천 차단한 액체냉각 방식과 물 사용을 최소화한 고정밀 열제어 기술을 개발해왔다. 실제로 발론 CEO는 “더 이상 공기를 식히지 않기 때문에 자체 냉각 온도가 낮고, 에너지 사용량까지 80% 이상 줄일 수 있다”고 밝혔다. 그는 2027~2028년 시점에 구축될 차세대 데이터센터 아키텍처에는 공기팬이 아예 들어가지 않게 될 것이라고 전망한다.

특히 저장장치는 AI 워크로드의 마지막 보루로, 여기서 냉각이 실패할 경우 전체 데이터 처리 성능이 급격히 악화된다. 이에 따라 아이소토프는 솔리덤과 협력해 100% 액체 냉각 기반의 고밀도 SSD 솔루션 개발에 박차를 가하고 있다.

에이스 스트라이커 역시 저장장치의 냉각 실패가 더 이상 단순한 인프라 문제가 아니라 AI 성능 자체에 영향을 주는 요소로 부각되고 있다고 했다. 그는 “현재 PCIe 4.0과 5.0 기반 SSD는 20~25와트 수준이지만, PCIe 6.0과 차세대 7.0으로 이동할 경우 SSD당 40~60와트의 전력을 소비하게 된다”며 “이러한 고열 환경에서는 공기 냉각은 완전히 한계에 도달하게 된다”고 설명했다.

업계에서는 AI 데이터센터가 더 높은 연산 처리에 대응하기 위해 고성능 GPU와 SSD를 채택하는 움직임이 가속화되고 있다. 이에 따라 냉각 기술은 단순한 물리적 과제가 아닌, AI 산업의 진화를 좌우할 전략 자산으로 부상하고 있다. 전통 냉각 방식의 한계가 명확해진 만큼, 액체냉각 기술은 앞으로 데이터센터 설계의 표준이 될 것으로 보인다.