경사하강법이란? 학습률·미니배치·모멘텀으로 이해하는 신경망 학습 원리 쉽게 정리하기

핵심 메시지

• 경사하강법은 신경망이 학습하고 언어 모델이 개선되는 방식의 바탕에 있는 최적화 알고리즘이다.
• 핵심 아이디어는 오차로 이뤄진 지형에서 가장 낮은 지점을 찾아 내려가는 것으로, 눈을 가린 채 비탈을 더듬어 내려가는 상황에 비유된다.
• 학습률은 한 걸음의 크기에 해당해, 너무 크면 바닥을 지나쳐 버리고 너무 작으면 도달하는 데 한없이 오래 걸린다.
• 실제 학습은 전체 데이터를 한 번에 쓰지 않고 작은 무작위 표본을 쓰는 미니배치 방식으로 이뤄져 속도가 빨라지고 국소 최솟값에 갇히는 문제도 덜어진다.
• 60년이 넘은 알고리즘이지만 오늘날 챗봇이나 추천 시스템을 쓸 때마다 그 위에서 학습된 모델의 결과를 받아 보고 있다.

쉽게 이해하기

인공지능이 '학습한다'는 말은 결국 오차를 줄이는 방향으로 값을 조금씩 고쳐 나간다는 뜻이다. 영상은 그 과정을 담당하는 알고리즘이 경사하강법이라고 소개하며, 시행착오를 수학적인 정밀함으로 다듬은 방식이라고 설명한다. 신경망이 배우는 방식도, 언어 모델이 점점 나아지는 방식도 여기에서 출발한다.

설명의 뼈대는 지형 비유다. 눈을 가린 채 언덕에 서 있고 아래로 내려가야 한다면, 발밑이 어느 쪽으로 기울었는지 더듬어 그 방향으로 작은 걸음을 옮기게 된다. 경사하강법이 하는 일이 정확히 이것이며, 다만 무대가 수천에서 수백만 차원에 이르는 공간이라는 점이 다르다. 여기서 '경사'란 가장 가파르게 내려가는 방향을 가리키는 말일 뿐이다.

구체적으로는 신경망의 가중치 같은 매개변수 하나하나에 대해, 값을 조금 바꿨을 때 오차가 어떻게 달라지는지를 계산한 뒤 오차가 줄어드는 쪽으로 전부 갱신한다. 이때 걸음의 크기를 정하는 값이 학습률이고, Adam이나 SGD 같은 최신 최적화 기법은 이 보폭을 자동으로 조절해 적절한 지점을 찾아 준다. 또 매번 전체 데이터를 쓰면 너무 느리기 때문에 작은 무작위 표본만 뽑아 갱신하는 미니배치 방식이 쓰인다.

실제 어려움은 오차 지형의 모양에서 온다. 바닥이 뚜렷하고 매끈한 경우도 있지만, 절벽과 평지, 여러 개의 골짜기가 뒤섞여 있는 경우가 더 흔하다. 그래서 평평한 구간을 밀고 나가도록 돕는 모멘텀, 해답에 가까워질수록 걸음을 줄이는 학습률 스케줄 같은 기법이 함께 쓰인다.

주요 인사이트

• 학습률은 단순한 설정값이 아니라 학습의 성패를 가르는 요소로 다뤄진다. 보폭이 크면 최솟값을 넘어가 버리고 작으면 수렴이 끝나지 않으므로, 현대 최적화 기법의 상당 부분이 이 보폭을 자동으로 조절하는 데 쓰인다.
• 미니배치는 단지 속도를 위한 타협이 아니다. 무작위 표본이 만드는 흔들림 덕분에 진짜 바닥이 아닌 국소 골짜기에 갇히는 상황을 피하는 데도 도움이 된다는 점이 함께 언급된다.
• 경사하강법은 60년이 넘은 오래된 방법이지만 여전히 머신러닝의 주력이다. 최신 모델의 화려함 뒤에도 오차의 기울기를 따라 조금씩 내려가는 단순한 원리가 그대로 남아 있다는 사실이 이 알고리즘의 위상을 보여준다.

자주 묻는 질문

관련 AI 소식