예측 부호화(Predictive Coding) 해설: 뇌의 학습이 역전파와 다른 이유와 AI에의 시사점

핵심 메시지

• 역전파와 경사하강은 오늘날 머신러닝 대부분을 떠받치지만, 뇌의 생물학적 원리와 근본적으로 충돌해 신경조직에서 그대로 구현되기 어렵다.
• 예측 부호화는 뇌의 하드웨어에 더 잘 맞고 때로는 역전파보다 더 나은 성능을 내는 대안 알고리즘으로 부상하고 있다.
• 역전파가 뇌와 맞지 않는 핵심은 두 가지다: 순전파·역전파를 나눠 계산을 멈춰야 하는 '불연속 처리'와, 전체를 조율하는 중앙 통제를 요구하는 '국소 자율성의 부재'다.
• 예측 부호화는 각 층이 아래층의 활동을 예측하고, 표현 뉴런과 오차 뉴런이라는 두 집단이 국소 정보만으로 예측 오차를 줄이도록 에너지를 최소화한다.
• 국소성 덕분에 병렬화가 쉽고 효율적이며, 전역 오차가 기존 지식을 덮어써 생기는 '파국적 망각'을 역전파보다 잘 억제할 수 있다.

쉽게 이해하기

영상은 '뇌는 어떻게 그토록 효과적으로 배우는가'라는 질문에서 출발한다. AI 연구자들은 오랜 노력 끝에 역전파와 경사하강에 이르렀고, 그 성공에 힘입어 뇌도 비슷한 일을 하지 않을까 추측했다. 그러나 역전파는 뇌 기능의 본질적 원리와 어긋난다는 근본 문제가 있다.

핵심 과제는 '신용 할당'이다. 수많은 연결 가중치 중 어느 것을 얼마나 조정해야 원하는 출력을 얻는가의 문제다. 인공 신경망은 전체 계산을 하나의 수학 함수로 보고 미분의 연쇄법칙(자동 미분)으로 이를 우아하게 푼다. 하지만 뇌는 이 방식을 쓰지 못한다.

이유는 두 가지 제약이다. 첫째, 인공망은 순전파로 예측을 만들고 오차를 계산한 뒤 역방향으로 오차를 전파하는 단계를 엄격히 번갈아 밟는다. 뇌가 이렇게 한다면 학습할 때마다 수백 밀리초 동안 정보 처리를 멈춰야 한다 — 무언가를 배울 때마다 잠깐씩 정전이 일어나는 셈이다. 둘째, 역전파는 전체를 순서대로 조율하는 중앙 통제를 요구하지만, 뇌의 뉴런과 시냅스는 대체로 자기 위치의 정보만으로 상태를 바꾸는 자율적 행위자다.

예측 부호화는 뇌의 근본 목표를 '들어오는 감각 정보를 예측하는 것'으로 본다. 계층 구조에서 위층은 아래층 활동을 예측(하향 연결)하고, 아래층은 예측과 실제의 차이인 예측 오차를 위로 올린다(상향 연결). 이를 스프링과 발판에 비유한 '에너지 기반 모델'로 놓고, 예측 오차의 제곱합이라는 에너지를 최소화하는 방향으로 시스템이 스스로 굴러 내려간다.

이 유도에서 자연스럽게 두 종류의 뉴런이 나온다. 예측을 아래층으로 전하는 '표현 뉴런'과, 그 뉴런이 예측에서 벗어난 정도를 부호화하는 '오차 뉴런'이다. 바로 이 오차를 부호화하는 뉴런에서 '예측 부호화'라는 이름이 유래한다. 가중치 갱신 규칙은 '함께 발화하는 뉴런은 함께 연결된다'는 헤비안 가소성과 놀랄 만큼 닮아 있다.

주요 인사이트

• 뇌에는 세타·감마 같은 진동, 주의 체계, 도파민 같은 신경조절 물질 등 조율 기제가 있지만, 이들은 역전파가 요구하는 세포 단위 정밀도보다 훨씬 거친 시공간 규모에서 작동한다.
• 역전파와 예측 부호화 모두 순방향·역방향 시냅스가 같은 가중치를 공유해야 하는 '가중치 수송 문제'를 안는다. 다만 예측 부호화에서는 두 시냅스의 갱신 규칙이 사실상 같아, 완벽한 대칭 없이도 근사적 대칭이 자연히 생겨 문제를 완화한다.
• 학습은 감각 입력이 주어지는 최하층을 특정 값에 고정(clamp)한 채 망이 평형에 이르도록 이완시키는 과정이다. 지도학습에서는 최상층을 정답 레이블에 고정하고, 생성 과제에서는 출력층을 풀어 학습한 모델과 일관된 새 이미지를 합성한다.
• 예측 부호화의 핵심 이점은 국소성이다. 역전파가 전역 출력 오차를 망 전체로 전파해야 하는 반면, 예측 부호화의 각 뉴런과 시냅스는 국소 예측 오차에만 반응한다. 이는 높은 병렬성과 효율로 이어진다.
• 역전파가 전역 손실에만 집중해 이전에 학습한 정보를 덮어쓰는 '파국적 망각'을 겪는 데 비해, 예측 부호화의 국소 갱신 규칙은 기존 지식 구조를 더 잘 보존해 신경과학과 AI를 잇는 유망한 다리로 평가된다.

자주 묻는 질문

관련 AI 소식