인공지능(AI) 기술이 또 한 번의 변곡점을 맞이했다. 확산 초기 기업들이 대규모 언어모델 등 '프론티어 기술'에 경쟁적으로 투자했던 흐름에서 이제는 현실적인 배치(deployment) 인프라, 즉 AI를 실제로 작동하게 만드는 기술로 무게중심이 이동하고 있다. 전문가들은 AI의 두 번째 파동이 바로 '인프라스트럭처'에 의해 주도될 것이라고 진단한다.

이미 많은 기업들이 생성형 AI를 활용한 실험을 끝내고, 이를 의료·에너지·금융 등 규제가 까다로운 분야에 적용하려는 단계에 돌입했다. 하지만 현장에서 요구되는 규정 준수, 안정성, 데이터 주권 문제는 단순히 고성능 모델과 클라우드 접근권만으로는 해결되지 않는다. 오히려 규정을 설계단계부터 내장하고, 실제 업무에 맞는 형태로 기술을 재구성해주는 인프라가 성공 열쇠로 떠오르고 있다.

특히 유럽은 개인정보보호 및 산업 간 상호운용성을 중시해온 제도적 전통 덕분에 이번 흐름의 선두에 서 있다는 평이다. 의료 AI 챗봇과 의사협업 툴을 개발하고 있는 덴마크 기업 코르티(Corti)는 최근 글로벌 헬스케어 대기업과 주요 공급 계약을 체결했는데, 경쟁에서 마이크로소프트(MSFT), 오픈AI(OpenAI), 앤쓰로픽(Anthropic) 등을 제쳤다는 사실이 업계의 관심을 끌었다. 코르티는 초기부터 규제 환경을 제품 설계에 직접 반영하며 인프라부터 탄탄하게 잡은 덕분이라는 분석이 나온다.

이와 같은 흐름은 투자 지형도에 변화를 일으키고 있다. 맥킨지에 따르면 보수적으로 봐도 AI 기술이 창출하는 부가가치는 향후 수십조 달러에 이를 것으로 추산된다. 특히 올해 상반기 글로벌 생성형 AI 분야에만 490억 달러(약 70조 5,000억 원) 이상의 투자가 쏟아졌으며, 이는 대부분 수익을 실현한 하이퍼스케일러들이 재투자한 자금이라는 점에서 투기적 거품과는 거리가 있다는 해석이 힘을 얻는다.

그러나 여전히 AI 프로젝트 중 80~95%는 실제 정식 상용화에 이르지 못하고 중도 좌절된다. 그 이유는 단순한 모델 성능 부족이 아니라, 법적 검증 체계를 미리 고려하지 않은 채 설계된 결과이기 때문이다. 미국 병원이 매년 규정 준수와 행정 감독에만 390억 달러(약 56조 1,000억 원)를 투입한다는 점이 이를 잘 보여준다. 헬스케어뿐만 아니라 금융, 에너지 등 고신뢰성이 요구되는 분야에서는 배포 인프라가 AI의 실효성을 좌우한다는 공감대가 확산되고 있다.

이 점에서 앞으로의 AI 인프라는 단순한 ‘연산 자원’이 아니라, 분야별 규제 이해, 감사 추적 기능, 즉각적인 배치가 가능한 디자인 등을 포함하는 ‘세로지향 인프라’로 진화할 전망이다. 글로벌 기업들이 기술 도입을 고려할 때 단순 성능이 아닌 배포까지의 소요시간, 감사 가능성, 준법 설계 여부 등의 요소를 주요 선정 기준으로 삼고 있다는 점이 이를 방증한다.

궁극적으로 AI의 다음 10년은 ‘현실에 적응하는 AI’가 돼야 시장에 깊이 뿌리를 내릴 수 있다. 기술적 가능성은 이미 입증됐다. 그러나 이제는 그것을 실질적 결과로 바꾸는 '실행 가능성', 다시 말해 인프라의 역량이 무엇보다 중요해졌다. 이 전환기를 선도할 기업은 단순히 뛰어난 모델을 만든 곳이 아니라, AI를 안전하고 법적으로 문제없이 기업 현장에 녹여낼 수 있는 인프라를 제공하는 주체일 것이다.

AI 거품론은 점차 힘을 잃고 있으며, 대신 기술의 상용화라는 현실적 과제가 산업 전반의 관심을 끌고 있다. 이 변화 속에서 누가 승자가 될지는 이제부터의 인프라 전략이 가를 것이다.