양자컴퓨팅과 AI의 접점: 큐비트 원리와 CPU·GPU·QPU 하이브리드 흐름, 의료 적용까지 정리

핵심 메시지

• 2024년과 2025년 노벨 물리학상이 각각 신경망과 초전도 양자 큐비트에 돌아간 것은 AI와 양자컴퓨팅이 불가분의 관계로 향한다는 신호로 읽힌다.
• 큐비트 n개는 2의 n제곱 개 연산을 한 번에 처리한다. 발표자는 32큐비트라면 초당 한 번 계산하는 기계로 100년 걸릴 일을 1초에 끝내는 셈이라고 설명했다.
• 완벽한 양자컴퓨터는 아직 없다. 현재는 잡음이 많은 NISQ 단계라 오류 보정이 필수이며, 앞으로 수십 년은 HPC와 공존하는 하이브리드 구조로 간다.
• AI 학습의 상당 부분이 행렬 곱과 회귀이기 때문에, 매개변수를 갖는 양자 회로가 그 연산을 한 번에 처리하는 방식으로 접점이 만들어진다.
• 의료가 가장 앞선 적용 후보다. 발표자 팀은 CT 영상 기반 유체역학 시뮬레이션을 양자컴퓨팅으로 가속해 관상동맥 협착을 비침습으로 진단하는 연구를 진행 중이다.

쉽게 이해하기

서울시립대학교 안도열 석좌교수가 소프트웨어정책연구소의 2026 SW 산업전망 컨퍼런스에서 양자컴퓨팅과 AI의 접점을 주제로 발표했다. 그는 구글 전 회장 에릭 슈밋이 2024년 설립한 폰 노이만 커미션의 위원이자, 지난해 미국에 양자 소프트웨어 회사를 세워 120만 달러 규모의 초기 투자를 마무리한 연구자다. 그는 2024년 노벨 물리학상이 신경망 연구에, 2025년 노벨 물리학상이 초전도 양자 큐비트를 개척한 물리학자들에게 돌아간 점을 나란히 놓으며 두 기술의 접점을 예고했다.

발표는 큐비트가 왜 다른지에서 출발한다. 지금의 IT는 0과 1이라는 스위치 위에 서 있어 아무리 더해도 0과 1밖에 나오지 않는다. 반면 양자 상태는 벡터 공간의 원소여서 0과 1이 섞인 중간 상태가 존재한다. 발표자는 이를 무지개에 빗댔다. 아무 색 없어 보이는 햇빛 안에 빨주노초파남보가 함께 섞여 있듯, 양자 상태에도 0이라는 색과 1이라는 색이 함께 들어 있다는 것이다. 그래서 큐비트 하나면 두 가지 연산을, 두 개면 네 가지 연산을 한 번에 수행할 수 있다.

다만 현실은 아직 이상과 거리가 있다. 완벽한 양자컴퓨터는 존재하지 않고, 이온 트랩·초전도·광자 등 대여섯 가지 기술이 경쟁 중이며 승자는 정해지지 않았다. 지금 나와 있는 기기는 잡음이 심한 NISQ 단계라 항상 오류 보정이 필요하고, 단독으로 연산을 끝낼 수 없어 HPC와 함께 하이브리드 시스템을 이룬다. 발표자는 지금 우리가 CPU가 있는 컴퓨터에서 GPU를 함께 쓰듯, 앞으로는 CPU·GPU·QPU가 결합된 형태가 적어도 수십 년간 이어질 것으로 봤다. 엔비디아가 GPU 프로그래밍 자산 위에 양자 컴퓨팅을 얹은 개발 환경을 내놓고 양자 리서치 센터를 세운 것, 여러 양자 기업에 투자한 것도 같은 흐름으로 소개됐다.

AI와의 접점은 연산의 성격에서 나온다. LLM 파이프라인에서 학습 과정은 대부분 행렬을 곱하고 회귀를 수행하는 일이다. 양자컴퓨터가 잘하는 것이 바로 행렬 연산이어서, 500 곱하기 1000 크기의 행렬 계산에 필요한 50만 번의 연산을 한 번에 처리할 수 있다는 설명이다. 매개변수를 갖는 양자 회로로 유니터리 매핑을 구성하면 입력을 넣었을 때 회로 자체가 행렬 곱을 한 번에 끝내는 구조가 된다. 다만 현재 규모는 100 곱하기 100 수준의 토이 모델에 머물러 있다는 점도 분명히 했다.

발표의 뒷부분은 27년간 이어온 본인 연구와 의료 적용 사례에 할애됐다. 그는 1998년 정부의 창의적 연구 진흥 사업에 양자컴퓨팅을 주제로 지원해 선정된 이후 양자정보이론을 거쳐 최근에는 양자 알고리즘, 특히 유체역학의 나비에-스토크스 방정식을 양자컴퓨터로 푸는 연구를 해 왔다. 이 연구를 심혈관으로 확장한 이유는 심장에서 대동맥으로 이어지는 혈류가 대표적인 2차원 유체이기 때문이다. 현재 관상동맥 협착 진단은 혈관을 열어 카테터를 넣는 침습적 방식이 주류인데, CT 영상만으로 유체역학 시뮬레이션을 돌려 대신하려는 시도가 이미 미국에서 사업화됐다. 발표자는 그 방식이 시뮬레이션에 10시간가량 걸린다는 점을 지적하며, 양자컴퓨팅으로 이를 크게 앞당길 수 있다는 아이디어로 미국 국립보건원의 양자컴퓨팅 챌린지 1단계를 통과했다고 밝혔다.

주요 인사이트

• 양자컴퓨팅을 '기존 컴퓨터를 대체할 기술'로 이해하면 현재 흐름을 놓치게 된다. 발표자가 그린 그림은 대체가 아니라 CPU·GPU·QPU가 각자 잘하는 계산을 나눠 맡는 하이브리드다.
• AI와 양자의 접점이 추상적 구호가 아니라 '행렬 곱'이라는 구체적 연산에 있다는 점이 핵심이다. 딥러닝 학습의 뼈대가 행렬 연산이라는 사실이 두 기술을 잇는 실질적 다리가 된다.
• 의료 적용 논리가 흥미롭다. 심장병은 환자 고유 데이터가 충분히 쌓이지 않아 AI 정확도가 아직 의사들의 선호를 얻지 못하는 반면, 물리 법칙에 기반한 시뮬레이션은 데이터가 적어도 성립한다. 문제는 계산 시간이고, 그 지점이 양자컴퓨팅의 자리다.
• 비용 구조가 기술 확산의 조건이라는 점도 드러난다. 발표자는 미국에서 CT 기반 시뮬레이션이 보험 수가로 인정받아 한 번 스캔에 1000달러 수준인 반면 수술은 1만 달러라 의사들이 선호한다고 설명했다. 기술의 우수성보다 수가 인정 여부가 채택을 갈랐다는 이야기다.
• 양자컴퓨터가 암호를 곧 깨뜨릴 것이라는 통념에는 선을 그었다. 100만 큐비트 규모가 되어야 가능하고 20년쯤 뒤의 일이 될 수 있으며, 그때는 다른 암호 체계가 나와 있을 것이라는 게 그의 답이었다.

자주 묻는 질문

관련 AI 소식