엘론 머스크가 이끄는 인공지능 스타트업 xAI가 미국 테네시주 멤피스 인근에 건설 중인 초대형 데이터센터 '콜로서스 2'에 엔비디아(NVDA) 칩을 대량 도입할 계획인 것으로 전해졌다. 이번에 확보 예정인 GPU 규모만 30만 개에 달하며, 예상 비용은 180억 달러(약 25조 9,200억 원)를 상회할 것으로 보인다. 관련 서버 등 부속 장비는 이 금액에 포함되지 않아 전체 투자 비용은 더욱 커질 전망이다.
xAI는 오픈AI와의 경쟁을 겨냥해 2년 전 설립된 인공지능 신생 기업으로, 지난해 이미 첫 번째 데이터센터인 콜로서스를 구 소비자 전자 공장이었던 부지에 구축한 바 있다. 이 시설에는 이미 20만 개의 엔비디아 칩이 설치돼 있고, 이 중 대부분은 최신 아키텍처인 블랙웰 이전 세대를 기반으로 한다.
이번 두 번째 데이터센터인 콜로서스 2는 성능면에서 전작을 상회한다. 총 5만5,000개의 최신 블랙웰 GPU가 탑재돼, 계산 성능과 처리 효율 모두 대폭 향상될 예정이다. 특히 에너지 수요에 대비해 xAI는 미시시피주 내 114에이커 규모 부지에 자체 발전소를 별도로 건설 중이다. 이 부지는 과거 폐쇄된 화력발전소가 위치했던 장소로, 기존 시설은 해체 중이며 신규 전력 인프라가 설치되고 있다.
xAI는 발전소에서 콜로서스 2로 전력을 전달할 송전 인프라 구축도 병행하고 있으며, 여기에는 변전소 설립도 포함된다. 완공 시 발전소는 1GW 이상의 전력을 생산해 최대 100만 가구에 전력을 공급할 수 있는 수준인데, 이는 멤피스 전역의 가정집 총 소비량을 넘어서는 규모다.
막대한 전력만큼이나 냉각 수요도 큰데, 칩 냉각을 위해 매일 수백만 갤런의 물이 소비될 예정이라고 알려졌다. 이에 따라 xAI는 올해 초 폐수 재활용률을 높이기 위한 8,000만 달러(약 1,152억 원) 규모의 폐수처리장을 짓겠다고 발표했다. 이 시설이 완공되면 하루에 약 1,300만 갤런의 폐수를 재활용할 수 있게 된다.
이처럼 공격적인 인프라 투자에 따라 xAI는 추가 자본 조달이 필요할 것으로 보인다. 최근 월스트리트저널에 따르면, xAI는 올해 약 130억 달러(약 18조 7,200억 원)의 손실을 예상하고 있으며, 1,700억~2,000억 달러 수준의 기업 가치를 기준으로 새로운 자금 유치에 나섰다는 소문도 돌고 있다.
현재로서는 콜로서스 2 프로젝트가 머스크의 초거대 AI 개발 구상을 실현할 첨병이 될 가능성이 높아지고 있다. 엔비디아에 대한 의존도는 더욱 깊어지고 있으며, 이는 곧 GPU 시장의 글로벌 수요 흐름에도 직접적인 영향을 미치게 될 전망이다.