엔비디아, 양자컴퓨터 ‘오류 보정’ 겨냥한 오픈 AI 모델 ‘아이징’ 공개

엔비디아($NVDA)가 양자컴퓨팅의 핵심 난제로 꼽히는 ‘오류 보정’과 ‘보정(calibration)’ 문제를 겨냥한 오픈 인공지능(AI) 모델 제품군 ‘아이징(Ising)’을 공개했다. GPU 중심의 AI 기업으로 성장한 엔비디아가 이번에는 양자컴퓨터를 실제 산업용 시스템으로 키우는 데 필요한 ‘제어 계층’ 구축에 나선 것이다.

엔비디아는 14일(현지시간) 아이징이 양자컴퓨터 연구기관과 기업들이 더 정교하고 안정적인 시스템을 개발하는 데 도움을 줄 것이라고 밝혔다. 양자컴퓨터가 실제 유용한 응용 프로그램을 대규모로 실행하려면 수백만 개의 큐비트(qubit)를 안정적으로 다뤄야 한다. 하지만 큐비트는 외부 환경 변화와 잡음에 매우 민감해 쉽게 오류를 일으키는 것이 가장 큰 한계다.

젠슨 황 엔비디아 최고경영자(CEO)는 “AI는 양자컴퓨팅을 실용화하는 데 필수적”이라며 “아이징을 통해 AI가 양자기계의 ‘운영체제’ 같은 제어판 역할을 하게 될 것”이라고 말했다. 그는 또 깨지기 쉬운 큐비트를 확장 가능하고 신뢰할 수 있는 양자-GPU 시스템으로 바꾸는 전환점이 될 수 있다고 강조했다.

아이징이라는 이름은 물리학의 복잡한 상호작용을 단순화해 설명하는 대표적 수학 모델인 ‘아이징 모델’에서 따왔다. 엔비디아는 이번에 두 가지 모델을 내놨다. 하나는 실시간 오류 보정을 위한 ‘아이징 디코딩’, 다른 하나는 장비와 신호를 미세 조정하는 ‘아이징 캘리브레이션’이다.

오류 보정 속도 2.5배, 정확도 3배 개선

아이징 디코딩은 양자 오류 수정에 필요한 실시간 판독 작업을 수행하는 모델이다. 3차원 합성곱 신경망(3D CNN) 기반으로 구성됐으며, 속도에 최적화한 버전과 정확도에 초점을 맞춘 버전 두 가지로 제공된다. 엔비디아는 이 모델이 현재 오픈소스 업계 표준으로 널리 쓰이는 ‘파이매칭(pyMatching)’ 대비 최대 2.5배 빠르고, 정확도는 3배 높다고 설명했다.

오류 보정은 잡음이 많은 양자 시스템을 의미 있는 출력으로 바꾸는 과정이다. 양자컴퓨터가 커질수록 이 작업은 선택이 아니라 필수가 된다. 연구실 수준의 실험 장비를 넘어 상용 시스템으로 발전하려면 실시간으로 오류를 감지하고 수정하는 능력이 뒷받침돼야 하기 때문이다.

아이징 캘리브레이션은 물리학자들이 마이크로파나 레이저 같은 제어 신호를 조정하고 측정해 시스템을 최적화하도록 돕는다. 시간이 지나면서 생기는 하드웨어 불안정, 잡음, 변수 변화까지 반영해 높은 정확도의 출력을 유지하는 것이 목적이다. 엔비디아는 이 모델이 비전-언어 모델(VLM) 구조를 활용해 양자 프로세서의 측정값을 빠르게 해석하고, 연속적인 보정 작업을 자동화하는 AI 에이전트를 구동할 수 있다고 설명했다.

엔비디아 “AI가 양자컴퓨터 확장성 문제 풀 것”

샘 스탠윅 엔비디아 양자 제품 총괄은 브리핑에서 회사가 디코딩과 캘리브레이션을 먼저 선택한 이유로 ‘가장 시급한 확장성 장애물’이라는 점을 들었다. 그는 두 영역 모두 지금 즉시 AI 효과를 낼 수 있는 ‘AI 친화적 작업량’이라고 평가했다.

엔비디아의 장기 구상은 여기서 멈추지 않는다. 회사는 앞으로 AI가 양자 회로 설계와 최적화에도 활용될 것으로 보고 있다. 디코딩과 캘리브레이션은 결국 대규모 양자-GPU 기반 슈퍼컴퓨터로 가는 첫 단계라는 설명이다.

실제 도입도 시작됐다. 아이징 디코딩은 코넬대학교, 샌디아 국립연구소, 캘리포니아대학교 샌디에이고, UC 산타바버라 등에서 활용되고 있다. 아이징 캘리브레이션은 아톰 컴퓨팅, 아카데미아 시니카, 이로Q, 아이온큐($IONQ), IQM 퀀텀 컴퓨터스, 큐컨트롤 등에서 사용 중이다.

엔비디아는 이와 함께 양자컴퓨팅 워크플로와 학습 데이터가 담긴 가이드 모음집, 그리고 엔비디아 NIM 마이크로서비스도 공개했다. 개발자들은 이를 활용해 각기 다른 하드웨어 환경에 맞는 모델을 맞춤형으로 학습·미세조정할 수 있다. 또 연구기관 내부 시스템에서 직접 실행할 수 있어 민감한 데이터 보호에도 유리하다.

이번 발표는 엔비디아가 AI 인프라 기업을 넘어 양자컴퓨팅 생태계의 핵심 플랫폼 사업자로 영향력을 넓히고 있음을 보여준다. 아직 양자컴퓨터의 상용화까지는 갈 길이 멀지만, ‘오류 보정’과 ‘실시간 보정’이라는 병목을 AI로 풀겠다는 접근은 시장이 주목할 만한 변화로 평가된다.