QR 분해와 그람-슈미트: 비스듬한 벡터를 직교 좌표계로 펴는 직관

핵심 메시지

• 서로 다른 방향의 두 벡터가 있으면, 그람-슈미트 과정으로 완벽히 직각이고 각각 길이 1인 깔끔한 좌표계를 만들 수 있다.
• 축이 직교하고 길이가 1이면 '벡터가 축을 얼마나 따라가는가'는 단순한 내적이 되고, 변환을 되돌리는 일도 전치(transpose)만으로 끝난다.
• 두 번째 축은 두 번째 화살표에서 첫 축(Q1) 방향의 그림자(사영)를 빼내고 남은 부분을 길이 1로 줄여서 얻는다.
• 이때 기록해 둔 길이와 그림자 값들을 모으면 상삼각행렬 R이 되고, 깔끔한 직교행렬 Q와 곱하면 원래 행렬 A가 그대로 복원된다 — 이것이 QR 분해다.
• 그람-슈미트와 QR 분해는 다른 두 가지가 아니라, 같은 하나의 작업을 두 번 본 것일 뿐이다.

쉽게 이해하기

영상은 서로 다른 방향을 가리키는 두 개의 화살표에서 출발한다. 이 둘은 평면을 채우므로 이미 하나의 좌표계를 이루지만, 사이 각도가 비스듬하고 길이도 제각각이라 이런 기울어진 틀에서 계산하는 일은 번거롭다. 우리가 진짜 원하는 것은 같은 공간을 덮는 깔끔한 정사각 격자다.

직각 축이 수고를 들일 만한 이유는 계산이 단순해지기 때문이다. 축들이 서로 직교하고 각각 길이가 1이면, 어떤 벡터가 특정 축을 얼마나 따라가는지는 내적 한 번으로 구해지고, 전체 변환을 되돌리는 일은 전치만으로 끝난다. 첫 축은 쉽다. 첫 화살표를 길이 1로 줄이기만 하면 되고, 이를 Q1이라 부른다.

핵심은 두 번째 축이다. 두 번째 화살표는 일부가 이미 Q1 방향으로 기울어 있고 일부는 옆으로 삐져나와 있다. Q1 방향으로 빛을 비추면 두 번째 화살표가 드리우는 그림자가 바로 Q1이 이미 덮고 있는 부분이며, 이는 내적 하나로 얻는다. 그 그림자를 빼내면 남는 것은 더 이상 Q1을 따라갈 수 없어 완전히 새로운 직각 방향을 가리키고, 이를 길이 1로 줄이면 Q2가 된다. 화살표가 셋, 백 개로 늘어도 이미 끝낸 축들의 그림자를 계속 빼나가면 똑같이 확장된다.

버리려던 그림자를 버리지 않고 기록하면 이야기가 달라진다. 첫 화살표는 Q1을 늘린 것이므로 'Q1의 몇 배'이고, 두 번째 화살표는 'Q1 방향 그림자 더하기 Q2 방향 나머지'다. 그런데 첫 화살표에는 Q2 성분이 전혀 없다. Q2는 그것을 만들 당시 아직 존재하지도 않았기 때문이다. 이 빠진 자리의 0이 숫자 표를 상삼각형으로 만든다.

원래 두 화살표를 행렬 A의 열로, 깔끔한 두 축을 직교행렬 Q의 열로 쌓고, 기록해 둔 길이와 그림자를 상삼각행렬 R에 채운다. Q와 R을 곱하면 정확히 A가 복원된다. 이 분해의 이름이 QR이다. 결국 지저분한 기저를 직교 기저로 펴는 일과 행렬을 깔끔한 회전과 나머지의 삼각형으로 쪼개는 일은 같은 작업이며, 이 도구는 불안정한 정규방정식 없이 최소제곱 문제를 푸는 방법이자, 반복하면 고윳값을 찾아내는 고전적 기법으로 곳곳에 등장한다.

주요 인사이트

• 직교·단위 길이라는 두 조건은 미학적 취향이 아니라 계산 편의의 문제다. 그 덕분에 사영이 내적으로, 역변환이 전치로 환원된다.
• 그람-슈미트의 '그림자 빼기'는 곧 사영(projection)이며, 남은 성분이 반드시 이전 축들과 직교한다는 점이 알고리즘 전체를 지탱한다.
• R이 상삼각행렬이 되는 이유는 규칙이 아니라 순서 때문이다. 나중에 만든 축은 먼저 만든 벡터에 기여할 수 없어 그 자리가 0이 된다.
• QR 분해를 '직교행렬이 삼각형 옷을 입은 것'으로 보면, 최소제곱 해법과 고윳값 반복법이 왜 같은 도구에서 나오는지 한눈에 이해된다.

자주 묻는 질문

관련 AI 소식