양자-HPC 융합, 연구 넘어 ‘국가 과제’로… 최대 병목은 오류 보정

양자컴퓨팅과 고성능컴퓨팅(HPC)의 결합이 더 이상 연구실 안의 개념 경쟁이 아니라 실제 운영 과제로 옮겨가고 있다. 미국 국립연구소와 연방 기관들은 ‘양자-HPC 융합’을 차세대 과학 발견의 핵심 기반으로 삼기 위해 속도를 내고 있다.

미국 에너지부 산하 오크리지 국립연구소(ORNL)의 톰 벡은 최근 HPE 월드 퀀텀 데이 행사에서, 양자컴퓨팅은 HPC의 다음 단계로 볼 수 있지만 초기에는 모든 작업을 대체하는 범용 기술이 아니라 특정 계산을 맡는 ‘특화 가속기’에 가까울 것이라고 설명했다. 결국 핵심은 두 시스템 사이에서 정보를 얼마나 빠르고 안정적으로 주고받느냐에 달려 있다는 의미다.

시장 기대감도 크다. 업계는 글로벌 양자컴퓨팅 시장이 2035년까지 970억달러 규모로 커질 가능성을 보고 있다. 원화 기준으로는 약 142조9,489억원 수준이다. 다만 시장 확대 전망과 별개로, 양자 장치를 엑사스케일 슈퍼컴퓨터와 과학적으로 유의미한 수준으로 연결하는 문제는 아직 풀리지 않은 과제로 남아 있다.

가장 큰 병목은 ‘오류 보정’

현재 양자-HPC 융합의 최대 장애물은 기술적 야심이 아니라 ‘오류 보정’으로 꼽힌다. 벡은 지금의 양자 칩과 큐비트는 기존 컴퓨터보다 오류가 훨씬 많아, 논리 큐비트 1개를 안정적으로 구현하려면 물리 큐비트 수백 개가 필요할 수 있다고 진단했다. 이는 고전적 HPC 환경과 비교할 때 매우 큰 진입 장벽이다.

그럼에도 분위기는 비관적이지만은 않다. 초전도, 이온트랩, 중성원자 등 서로 다른 큐비트 구조가 각기 다른 성능 영역에서 진전을 보이고 있고, 관련 공급업체 생태계도 빠르게 성숙하고 있다는 평가다. 벡은 특히 인공지능(AI)이 고전적 컴퓨팅 환경에서 더 효율적인 양자 회로를 설계하고, 나아가 오류 보정 속도를 높이는 데 중요한 역할을 할 수 있다고 봤다.

그는 수년 안에 상황이 크게 달라질 수 있다고 내다봤다. 양자컴퓨팅의 성능 개선이 단순한 기대에 머물지 않고, 실제 과학 문제 해결에 가까워지고 있다는 판단이다.

‘넓은 가능성, 좁은 입구’… 입출력 한계가 관건

양자 장치의 잠재력이 커도 실제 활용성은 입출력(I/O) 구조에서 제약을 받는다. 벡은 이를 ‘거대한 가능성의 바다를 아주 작은 파이프로 접근하는 것’에 비유했다. 다시 말해 양자컴퓨팅이 뛰어난 계산 능력을 가졌더라도, 고전 컴퓨터에서 대량 데이터를 빠르게 넘겨받지 못하면 실효성이 떨어질 수 있다는 뜻이다.

이 때문에 오크리지 국립연구소는 초기 적용 분야로 대규모 데이터 유입이 필요하지 않은 작업에 집중하고 있다. 핵융합 모델링이나 양자화학 같은 영역이 대표적이다. 이런 분야는 양자컴퓨팅과 HPC를 함께 쓰는 ‘하이브리드’ 구조에서 비교적 빨리 성과를 낼 가능성이 있다.

현재 ORNL은 엔비디아($NVDA), 휴렛팩커드엔터프라이즈와 함께 과학 연구용 양자-HPC 통합을 추진하고 있다. 미국 에너지부의 ‘제네시스 미션’ 역시 양자-AI-HPC 융합을 국가 핵심 우선순위 가운데 하나로 명시한 상태다. 양자컴퓨팅 단독이 아니라 AI와 HPC를 함께 엮는 방식이 현실적인 해법으로 떠오르는 셈이다.

핵융합까지 겨냥… 실험 아닌 실제 문제 해결로

벡은 특히 핵융합 에너지 프로젝트를 주목했다. 이 프로젝트는 AI, 양자컴퓨팅, HPC라는 세 축을 모두 동원해 실제 산업·과학 문제를 푸는 구조를 목표로 한다. 단순한 기술 시연이 아니라, 각 기술이 가장 잘하는 영역에 배치돼 실질적 성과를 내는 것이 목표다.

이는 양자컴퓨팅 산업 전반에도 시사점이 크다. 지금 시장은 ‘언제 상용성이 본격화하느냐’에 관심이 쏠려 있지만, 실제 경쟁력은 어떤 문제를 먼저 풀 수 있느냐에서 갈릴 가능성이 크다. 양자-HPC 융합은 그 출발점이 될 수 있다.

결국 양자컴퓨팅의 다음 승부처는 성능 수치 자체보다 연결과 통합에 있다. 오류 보정, 데이터 이동, 하이브리드 설계라는 세 가지 난제를 얼마나 빨리 넘느냐에 따라 양자-HPC 융합의 현실화 속도도 달라질 것으로 보인다.