UNIST와 고려대 공동 연구진이 양자컴퓨팅을 활용해 환경 변화에 강한 인공지능(AI)을 보다 효율적으로 학습시키는 기술을 개발했다. 강화학습의 계산 병목 문제를 해결해 로보틱스와 자율주행 등 분야 활용 가능성을 높였다는 설명이다.

UNIST는 6일 윤성환 교수 연구팀과 고려대학교 김중헌 교수 연구팀이 양자 알고리즘 기반 강인한 강화학습 기법인 ‘QRIM(Quantum Robust Inner Minimization)’을 개발했다고 밝혔다. 연구 결과는 국제머신러닝학회(ICML 2026)에 채택됐다.

강화학습은 AI가 시행착오를 통해 최적의 행동 전략을 학습하는 방식이다. 하지만 실제 환경이 학습 환경과 달라질 경우 성능이 크게 저하되는 한계가 있다.

이를 보완하기 위해 발전한 강인한 강화학습은 최악의 환경을 가정하고 학습을 진행하지만, 가능한 환경 변화를 반복적으로 탐색해야 해 계산 비용이 크게 증가하는 문제가 있다.

연구팀은 양자컴퓨팅의 중첩(Superposition) 특성을 활용해 이 문제를 해결했다. QRIM은 양자 진폭 추정(QAE)과 양자 최솟값 탐색(QMF) 알고리즘을 결합해 다수의 환경 후보 가운데 가장 불리한 상황을 보다 효율적으로 찾아낸다.

연구팀에 따르면 기존 방식이 N개의 환경을 모두 확인해야 했다면 QRIM은 √N 수준의 탐색으로 동일한 결과를 얻을 수 있다.

연구팀은 이론 분석을 통해 QRIM이 기존 방식 대비 제곱근 수준의 계산 가속 효과를 제공한다는 점을 증명했다.

또한 FrozenLake와 CartPole 환경 실험에서 기존 대비 약 20~~30% 수준의 계산량만으로 강인성을 확보했다고 밝혔다. 학습에 필요한 환경 탐색 횟수는 기존 방식보다 약 64~~80% 감소한 것으로 나타났다.

아울러 IBM의 127큐비트 양자컴퓨터를 활용한 실험에서도 기술이 정상적으로 작동했으며, 양자 하드웨어 잡음이 존재하는 환경에서도 성능을 유지했다고 연구팀은 설명했다.

윤성환 교수는 “양자컴퓨팅이 기존 인공지능의 한계를 보완할 수 있음을 보여준 사례”라며 “환경 변화 대응이 중요한 자율주행, 로보틱스, 의료 분야 등에 활용될 수 있을 것”이라고 밝혔다.