양자 머신러닝(QML) 원리: 큐비트·얽힘·변분회로·커널 트릭 쉽게 이해하기

핵심 메시지

• 양자 머신러닝(QML)은 고전 머신러닝 기법에 양자 비트를 더한 것으로, 기존 머신러닝의 흐름을 양자 공간에서 재현한다.
• 큐비트의 중첩과 얽힘은 고전 컴퓨터로는 지수적으로 큰 공간을 써야 흉내 낼 수 있는 고차원 표현을 제공한다.
• 고전 데이터를 양자 공간으로 옮기는 '특징 임베딩' 뒤에 변분회로를 학습시켜 양자 신경망 같은 모델을 만든다.
• 서포트 벡터 머신의 커널 계산은 양자 회로에서 특정 데이터에 대해 더 효율적으로 수행될 수 있다.
• 이론적으로 특정 유형의 데이터에서 이점이 증명됐지만, 어떤 데이터에서 실제 이점이 나타나는지는 아직 규명되지 않았다.

쉽게 이해하기

고전 컴퓨터에서 데이터는 0 또는 1을 가리키는 비트로 표현된다. 양자에서는 이를 큐비트로 확장하는데, 큐비트는 구(블로흐 구) 표면의 임의 지점을 가리킬 수 있어 0과 1의 선형결합을 동시에 담는 '중첩' 상태가 된다. 이 중첩이 계산에 일종의 병렬성을 부여하는 첫 번째 원리다.

두 번째 원리는 얽힘이다. 여러 큐비트를 특정 연산으로 얽으면 한 큐비트에 국소 연산을 가해도 다른 큐비트에 비국소적 효과가 미친다. 얽힌 큐비트의 상태 공간은 분리된 큐비트들로는 흉내 낼 수 없고 지수적으로 더 큰 차원이 필요하며, 이 고차원 공간이 QML의 효과를 뒷받침한다.

QML 모델은 고전 데이터를 먼저 양자 공간으로 '특징 임베딩'해 상관관계를 더 잘 탐색할 수 있는 고차원으로 올린다. 이후 아다마르·CNOT 같은 게이트와 회전 각도를 매개변수로 갖는 '변분회로(안사츠)'로 회로를 구성하고, 라벨이 있는 학습·검증 데이터로 매개변수를 최적화한다. 고전 뉴런 층과 결합하면 양자 신경망이 된다.

양자 계산 결과를 다시 고전 값으로 가져오려면 측정이 필요하다. 측정은 확률적이어서 큐비트가 어디에 있었는지 감을 잡으려면 같은 과정을 여러 번 반복(샷)해야 한다. 상태를 완벽히 복원하려면 막대한 샷이 필요하므로, 보통은 관심 있는 특성만 뽑아 샷 수를 아낀다.

구체적 예로 서포트 벡터 머신을 든다. 2차원에서 선으로 나뉘지 않는 데이터는 고차원으로 올리면(특징 임베딩) 평면으로 분리할 수 있는데, 고차원 계산이 병목이 된다. 고전에서는 '커널 트릭'으로 초평면을 직접 계산하지 않고 커널 함수 K로 대체한다. 양자는 데이터를 표준 회로로 고차원 양자 상태에 자연스럽게 매핑하고, 커널의 내적 계산도 특징 사상과 그 역사상을 이어 붙인 회로로 더 효율적으로 얻을 수 있다.

주요 인사이트

• 양자가 만능이어서가 아니라, 얽힘이 만드는 '고전적으로 시뮬레이션 불가능한 고차원 공간'이 QML의 핵심 자원이다.
• 중첩만으로는 양자 이점(quantum advantage)이 보장되지 않으며, 얽힘까지 활용해야 한다.
• 이점이 기대되는 곳은 대규모 빅데이터가 아니라, 정상적 기법으로는 잡기 어려운 희귀 사건이나 특수한 분포·잡음 특성을 가진 데이터일 가능성이 크다.
• 현실적 QML은 순수 양자가 아니라 GPU가 담당하는 고전 부분과 중간의 양자 계산을 결합한 하이브리드 형태로 갈 공산이 크다.
• ZZ 특징 사상처럼 중첩과 얽힘을 함께 쓰는 표준 회로가 고전 데이터를 고차원 양자 공간으로 인코딩하는 도구로 이미 쓰인다.

자주 묻는 질문

관련 AI 소식