아이온큐·엔비디아, 12변수 하위 문제 28초…100변수 GPU 검증

아이온큐($IONQ)와 엔비디아($NVDA), 오크리지국립연구소, 테네시대학교 연구진이 생성형 인공지능으로 양자 회로를 최적화해 반복 계산 부담을 줄이는 방법을 제시했다. 최대 100개의 의사결정 변수를 가진 문제를 대상으로 한 실험에서 DQAOA-GPT는 기존 방식보다 짧은 실행 시간을 보였지만, 검증은 실제 양자컴퓨터가 아닌 GPU 시뮬레이션으로 진행됐다.

연구진은 2026년 7월 22일 논문 ‘DQAOA-GPT: AI-Accelerated Distributed Quantum Optimization for Combinatorial Problems’를 공개했다. 논문은 대규모 조합 최적화 문제를 작은 하위 문제로 나눈 뒤 GPT 기반 생성 모델이 각 문제에 맞는 양자 회로와 매개변수를 생성하는 구조를 설명한다.

기존 분산 양자근사최적화알고리즘(DQAOA)은 양자 회로를 실행하고 결과를 측정한 뒤 고전적 매개변수를 다시 조정하는 과정을 반복한다. 문제 규모가 커질수록 회로 평가와 매개변수 갱신에 필요한 계산 부담도 커진다.

DQAOA-GPT는 학습된 GPT 모델이 하위 문제의 구조를 분석한 뒤 양자 회로와 매개변수를 생성하도록 설계됐다. 연구진은 이 방식이 기존 알고리즘의 반복적인 양자·고전 피드백 과정을 줄일 수 있다고 설명했다.

실험 대상은 최대 100개의 의사결정 변수를 가진 고차 비제약 이진 최적화(HUBO) 문제였다. 연구진은 오크리지국립연구소의 고성능 컴퓨팅 환경에서 엔비디아 H200 GPU와 CUDA-Q·cuQuantum을 활용해 두 방식을 비교했다.

하위 문제의 변수 수가 4개일 때 기존 DQAOA의 실행 시간은 약 33.80초였다. 하위 문제를 12개 변수로 확대하자 실행 시간은 약 683.99초로 늘었지만, DQAOA-GPT는 같은 조건에서 약 28초 수준을 유지했다.

상대 정확도는 하위 문제 크기에 따라 달라졌다. 변수 4개 조건에서 상대 정확도는 DQAOA 약 0.38, DQAOA-GPT 약 0.36이었고, 변수 12개에서는 최대 약 0.78까지 상승했다.

논문은 생성형 AI를 활용한 회로 생성이 하위 문제 규모 확대에 따른 정확도와 계산 비용 사이의 절충을 완화할 수 있다고 설명했다. 다만 이 결과는 특정 시뮬레이션 환경에서 얻은 수치로, 실제 업무 환경의 성능을 의미하지는 않는다.

이번 실험은 단일 GPU에서 하위 문제를 순차적으로 처리하는 방식으로 진행됐다. 연구진은 여러 GPU와 컴퓨팅 노드에 하위 문제를 병렬 배분하면 실행 시간을 더 줄일 수 있다고 제시했지만, 병렬 확장 효과를 이번 실험에서 직접 검증하지는 않았다.

실제 양자 하드웨어 적용 여부도 남은 과제다. 논문은 이번 결과를 벤치마크 규모의 검증으로 규정했으며, 아이온큐의 실제 양자 하드웨어에서 기존 방식보다 우월한 성능을 냈는지는 제시하지 않았다.

이는 양자컴퓨팅 연구에서 시뮬레이션 성능과 하드웨어 성능을 구분해야 한다는 점을 보여준다. GPU에서 회로 계산이 빨라졌더라도 실제 장비에서는 회로 오류, 측정 결과의 변동성, 하드웨어별 실행 조건이 별도 평가 대상이 된다.

아이온큐는 9월 15일 DQAOA-GPT 논문이 IEEE 양자컴퓨팅·공학 콘퍼런스(QCE 2026)의 ‘Quantum–GenAI Co-Design & Co-Discovery’ 트랙에서 857건의 연구 제출물 가운데 3위에 올랐다고 밝혔다. 아이온큐는 해당 연구를 오크리지국립연구소, 엔비디아, 테네시대학교와의 공동 연구로 소개했다.

앞서 본지는 기업용 양자전환 검증 플랫폼에 아이온큐 양자컴퓨터가 추가된 사례를 전한 바 있다.

다만 이번 연구의 중심은 양자컴퓨터 자체의 성능 향상이나 가상자산 보안이 아니다. 생성형 AI가 양자 최적화 과정에서 회로 생성과 반복 계산을 맡을 수 있는지를 GPU 시뮬레이션으로 시험했다는 데 의미가 있다.

실제 아이온큐 양자 하드웨어에서의 재현성, 여러 GPU·노드로 확장했을 때의 실행 시간, 대규모 업무 문제에서의 유효성은 후속 연구에서 확인해야 한다.