스탠퍼드 CS229 3강 정리: 최대우도로 다시 보는 최소제곱과 로지스틱 회귀

핵심 메시지

• 최소제곱은 임의로 고른 손실 함수가 아니라, 오차가 평균 0에 분산이 일정한 독립 가우시안이라고 가정했을 때 최대우도 추정과 같아진다.
• 최대우도는 모델이 바뀌어도 그대로 돌아가는 절차다. 확률 모델을 세우고, 로그를 취해 합 형태로 바꾼 뒤, 경사하강법으로 푼다.
• 분류 문제에 최소제곱을 그대로 쓰면 멀리 떨어진 점에 결정 경계가 끌려간다. 시그모이드 같은 연결 함수를 끼워 넣은 것이 로지스틱 회귀다.
• 여러 모델의 갱신식이 '실제값 빼기 예측값에 입력을 곱하는' 같은 꼴로 정리된다는 점이 이 계열 모델들의 공통 성질이다.
• 뉴턴법은 스텝 크기가 필요 없고 수렴이 빠르지만 한 걸음의 비용이 커서, 데이터와 차원이 모두 거대한 기계학습에서는 미니배치 SGD가 주력이 된다.

쉽게 이해하기

스탠퍼드 CS229 3강은 분류를 다루겠다고 예고하면서도, 곧바로 분류로 넘어가지 않고 지난 강의에서 배운 최소제곱을 다시 꺼내 든다. 목적은 분명하다. 최소제곱을 확률 모델의 언어로 다시 세워두면, 같은 틀로 이산적인 문제까지 확장할 수 있기 때문이다. 강사는 한 번에 두 가지가 바뀌면 헷갈리니 익숙한 모델부터 관점만 바꿔보자고 설명한다.

설정은 단순하다. 세상 어딘가에 우리가 볼 수 없는 참된 파라미터가 있고, 관측된 값에는 오차 항이 섞여 들어온다고 본다. 이 오차에 대해 세 가지를 가정한다. 기대값이 0이고, 서로 독립이며 같은 분포를 따르고, 분산이 일정하다는 것이다. 강사는 이 오차가 측정 잡음일 수도 있지만 '우리가 모델링하지 않기로 한 부분'일 수도 있다고 강조한다. 모델링은 참과 거짓을 가리는 일이 아니라 어디까지 설명할지 정하는 추상화의 문제라는 것이다. 강의에 등장하는 '모든 모델은 틀렸지만 일부는 유용하다'는 문구가 이 대목의 요지다.

이 가정들을 밀고 나가면 오차는 정규분포가 되고, 관측값 역시 조건부로 정규분포를 따른다. 여기서 우도가 등장한다. 가능한 파라미터마다 우리가 실제로 본 데이터가 얼마나 그럴듯한지 점수를 매기고, 점수가 가장 높은 것을 고르자는 원리다. 독립 가정 덕분에 전체 확률은 곱으로 분해되고, 로그를 취하면 수치적으로 다루기 쉬운 합이 된다. 그렇게 정리하고 나면 파라미터와 무관한 상수를 빼고 남는 항이 정확히 지난 시간의 최소제곱 손실이다. 오차를 최소화하던 일과 우도를 최대화하는 일이 같은 문제였음이 드러난다.

분류로 넘어가면 왜 새로운 도구가 필요한지가 그림으로 설명된다. 0과 1만 나오는 레이블에 최소제곱을 적용하면, 경계에서 멀리 떨어진 점들이 직선을 잡아당겨 결정 경계가 엉뚱한 곳으로 밀린다. 나누는 지점이 아니라 무게중심을 찾으려 들기 때문이다. 다만 강사는 고차원 실제 데이터에서는 가장 가까운 점과 가장 먼 점의 거리가 비슷해지는 등 직관과 다른 일이 벌어지기 때문에, 이론적으로 부적절한 모델이 실전에서 그럭저럭 통하는 경우도 적지 않다고 덧붙인다.

해법은 선형 결합 위에 단조롭고 미분 가능한 연결 함수를 씌우는 것이다. 계단 함수는 미분이 안 되어 다루기 불편하므로 0과 1 사이로 부드럽게 이어지는 시그모이드를 쓴다. 출력값은 해당 클래스에 속할 확률로 해석하고, 나머지 확률이 반대 클래스가 된다. 여기에 다시 최대우도를 적용해 로그를 취하면 합 형태의 목적 함수가 나오고, 경사하강법으로 풀 수 있다. 강사는 이 로지스틱 회귀가 오늘날 우리가 쓰는 거의 모든 모델의 마지막 층에 소프트맥스라는 이름으로 들어 있다고 짚는다.

마지막 30분가량은 최적화에 할애된다. 뉴턴법은 현재 지점에서 1차 테일러 근사를 그어 그 직선이 0이 되는 지점으로 곧장 이동한다. 스텝 크기를 정할 필요가 없고 한 걸음마다 정밀도가 크게 올라간다는 장점이 있다. 다차원에서는 헤세 행렬의 역행렬, 정확히는 무어-펜로즈 유사역행렬을 쓴다. 문제는 비용이다. 강사가 칠판에 적은 대로 SGD가 차원에 비례하는 데 비해 뉴턴법은 데이터 수 곱하기 차원의 제곱에 차원의 세제곱까지 더해진다. 데이터도 파라미터도 수십억 단위인 영역에서는 감당할 수 없는 값이다.

주요 인사이트

• 최소제곱의 제곱항은 수학적 편의만이 아니라 '오차가 정규분포를 따른다'는 모델링 선택의 결과라는 점이 이 강의의 핵심 메시지다.
• 최대우도는 특정 모델이 아니라 절차다. 확률 모델을 세우고 로그를 취해 합으로 바꾼 뒤 경사하강법을 돌린다는 순서가 이후 등장하는 여러 모델에 그대로 재사용된다.
• 여러 모델의 갱신식이 오차에 입력을 곱한 꼴로 정리된다는 관찰은, 서로 다른 알고리즘처럼 보이던 것들이 사실 한 틀 안에 있음을 보여준다.
• 강사는 파라미터가 조금 달라졌을 때 결론이 크게 바뀌면 불편하게 느껴야 한다고 말한다. 모델링에서 놓친 무언가가 있다는 신호이기 때문이다.
• 기계학습이 뉴턴법 대신 SGD를 쓰는 이유는 알고리즘의 우열이 아니라 데이터 규모와 차원이라는 조건 때문이다. 변수가 스무 개 남짓한 고전 통계 영역에서는 여전히 뉴턴법과 L-BFGS가 널리 쓰인다.
• 헤세 행렬에 대각이나 저계수 같은 구조를 가정해 곡률 정보를 싸게 얻으려던 시도가 아다그라드 계열로 이어졌고, 오늘날 가장 널리 쓰이는 아담은 그 아이디어와 모멘텀을 결합한 형태라는 계보 설명이 흥미롭다.

자주 묻는 질문

관련 AI 소식