에너지 기반 모델과 MCMC 학습법 정리 — 코넬대 심층 생성 모델 강의 11강 요약과 핵심 개념 해설

핵심 메시지

• 확률 모델이 되려면 값이 음수가 아니어야 하고 전체 합이 1이어야 한다. 강의는 앞의 조건은 쉽고 뒤의 조건이 어렵다는 점에서 출발한다.
• 에너지 기반 모델은 임의의 신경망을 그대로 쓰고, 전체 적분값으로 나눠 확률을 맞춘다. 이 나눗셈의 분모가 분배 함수이며 계산이 대단히 어렵다.
• 분배 함수는 입력 x가 아니라 파라미터에만 의존하는 상수여서, 두 표본의 확률 비율을 볼 때는 소거된다. 이상치 탐지나 잡음 제거 같은 과제에서는 굳이 구하지 않아도 된다.
• 이징 모델, 제한 볼츠만 머신, 심층 볼츠만 머신은 모두 이 틀의 고전 사례다. 지금은 잘 쓰이지 않지만 초기 딥러닝의 흐름을 이해하는 데 도움이 된다.
• 학습에서는 변분 추론 대신 마르코프 연쇄 몬테카를로로 표본을 뽑아 기울기를 근사하며, 이를 적용한 알고리즘이 대조 발산이다.

쉽게 이해하기

코넬대 심층 생성 모델 강의의 열한 번째 시간으로, 앞선 강의들이 다룬 자기회귀 모델·잠재 변수 모델·플로우·적대적 생성 신경망에 이어 새로운 축을 하나 더 소개한다. 그 축은 확률을 정규화된 형태로 정의하느냐, 정규화하지 않은 형태로 정의하느냐다.

강의자는 지금까지 다룬 모든 모델이 사실은 정규화 상수를 다루기 쉽게 설계된 것이었다고 정리한다. 자기회귀 모델은 각 조건부 분포의 적분값을 알 수 있는 형태로 골랐고, 잠재 변수 모델은 가우시안처럼 적분이 가능한 성분을 썼으며, 플로우 모델은 변수 변환 공식으로 부피 변화를 추적했다. 에너지 기반 모델은 이 가정을 통째로 버린다.

대신 임의의 함수에 지수를 씌워 음이 아닌 점수를 만들고, 가능한 모든 입력에 대한 적분으로 나눠 확률을 만든다. 이 적분값이 분배 함수이고, 지수 앞에 음수를 붙인 값을 에너지라고 부른다. 물리학의 볼츠만 분포와 같은 형태이며, 지수 함수를 쓰는 근거로 최대 엔트로피 원리와 열역학이 언급된다. 강의자는 이 틀의 장점을 '어떤 신경망이든 쓸 수 있는 극단적인 유연성'이라고 요약한다.

대가는 계산이다. 고차원 적분인 분배 함수 때문에 표본 추출도, 가능도 평가도, 따라서 최대 가능도 학습도 어려워진다. 다만 강의자는 이 상수가 입력에 따라 변하지 않는다는 점을 여러 번 강조한다. 두 점의 확률 비율을 계산하면 분모와 분자에서 상수가 지워지므로, 이상치 탐지·잡음 제거·결측값 보간처럼 비율이나 최적화만 필요한 과제에서는 분배 함수를 몰라도 된다.

학습 방법으로는 지수족 모델을 예로 들어 로그 가능도의 기울기를 유도한다. 그 기울기는 데이터 분포에서 계산한 특징의 기댓값과 모델 분포에서 계산한 특징의 기댓값의 차이가 되고, 최적점에서는 두 값이 같아진다. 강의자는 이를 모멘트 매칭이라 부른다. 문제는 모델 분포 쪽 기댓값이므로, 마르코프 연쇄를 설계해 그 정상 분포가 원하는 분포가 되게 만든 뒤 표본을 뽑는 방식으로 우회한다. 여기에 경사 하강을 결합한 것이 대조 발산이며, 매번 연쇄를 새로 시작하지 않고 이어 쓰는 변형이 지속적 대조 발산이다.

주요 인사이트

• 이 강의의 구성은 생성 모델을 '어떤 신경망을 쓰느냐'가 아니라 '확률의 합을 1로 맞추는 부담을 어디에 떠넘기느냐'로 분류한다. 이 관점을 잡으면 서로 달라 보이던 모델군이 하나의 지도 위에 놓인다.
• 분배 함수가 입력의 함수가 아니라 파라미터의 함수라는 사실은 사소해 보이지만, 실제로 에너지 기반 모델을 쓸 수 있는 과제와 없는 과제를 가르는 기준이 된다. 강의 중 수강생 질문도 이 지점에 집중됐다.
• 품사 태깅이나 물체 인식처럼 정답 후보 중 최적을 고르는 문제는 확률이 아니라 에너지만 최적화하면 되므로, 계산이 어려운 모델도 실제 응용에서는 다룰 만해진다.
• 변분 추론이 추론을 최적화 문제로 바꾸는 접근이라면, MCMC는 추론을 표본 추출 문제로 바꾸는 접근이다. 강의자는 이 대비를 이번 강의에서 가장 기억해야 할 내용으로 꼽았다.
• 제한 볼츠만 머신에서 보이는 층과 숨은 층 사이에만 연결을 두는 제약은 표현력을 크게 해치지 않으면서 학습 알고리즘을 훨씬 효율적으로 만든다. 구조적 제약이 곧 계산 가능성으로 이어지는 전형적인 사례다.

자주 묻는 질문

관련 AI 소식