딥러닝이 잘 작동하는 이유: 보편 근사 정리와 깊은 신경망의 기하학

핵심 메시지

• 보편 근사 정리는 충분히 넓은 2층 신경망이 어떤 연속 함수든 '표현할 수 있다'고 말할 뿐, 그 해를 '찾을 수 있다'거나 뉴런이 몇 개 필요한지는 알려주지 않는다.
• ReLU를 쓰는 신경망의 첫 층은 입력 공간(지도)을 직선을 따라 접고, 다음 층은 접힌 면을 다시 늘이고 더해 결정 경계를 만든다.
• 한 층에 뉴런 10만 개를 넣은 모델은 벨기에·네덜란드 국경 마을의 복잡한 경계를 끝내 다 학습하지 못했지만, 32개씩 여러 층으로 쌓은 130개 규모 모델은 더 정밀한 경계를 학습했다.
• 층을 더하면 앞 층이 만든 접힌 면을 다시 접기 때문에 접힘이 직선이 아닌 꺾인 선이 되고, 지도가 훨씬 복잡한 조각으로 나뉜다.
• 얕은 망이 만들 수 있는 영역 수는 뉴런 수의 다항식으로, 깊은 망은 층 수의 지수로 늘어난다는 이론적 상한이 있지만, 이는 매우 느슨한 상한이며 실제로는 지수적 증가가 관찰되지 않는다.

쉽게 이해하기

1989년 조지 사이벤코(George Cybenko)가 증명한 보편 근사 정리는 딥러닝 이야기에서 늘 등장하는 출발점이다. 아무리 복잡한 연속 함수라도 뉴런이 충분히 많은 2층 신경망이라면 원하는 만큼 정밀하게 흉내 낼 수 있다는 내용이다. 영상은 이 정리를 벨기에와 네덜란드가 조각조각 얽혀 있는 국경 마을 바를러헤르토흐(Baarle-Hertog)의 지도로 시각화한다. 이 지도의 국경선을 신경망이 얼마나 잘 그려내는지가 실험의 과제다.

ReLU 활성화 함수를 쓰는 신경망의 첫 층은 각 뉴런이 지도를 하나의 직선을 따라 접는 역할을 한다. 접는 위치는 학습된 가중치가 정한다. 다음 층의 뉴런은 이 접힌 면들의 높이를 자기 가중치만큼 늘이거나 뒤집어 더한다. 두 나라에 각각 대응하는 두 개의 최종 곡면이 만들어지고, 두 곡면이 교차하는 선이 곧 모델의 결정 경계, 즉 모델이 그린 국경선이 된다.

여기서 이상한 일이 벌어진다. 첫 층의 뉴런을 8개, 16개, 32개로 늘려 가면 경계는 점점 정교해지지만, 뉴런을 10만 개까지 늘려도 국경선의 일부는 끝내 학습되지 않았다. 반면 뉴런 128개를 32개씩 네 층으로 나눠 쌓은 모델은 훨씬 적은 자원으로 더 정밀한 경계를 그려냈다. 정리가 존재를 보장한 해를, 경사하강법이 실제로는 찾아주지 못한 것이다.

왜 못 찾는지는 학습이 실패하는 장면에서 드러난다. 초기값이 나쁘면 역전파가 결정 경계를 ReLU의 0으로 눌린 영역 바깥으로 밀어내 버리는데, 이 영역에서는 기울기도 0이라 학습이 되살아나지 못한다. 이렇게 아무 입력에도 반응하지 않는 '죽은 뉴런'은 흔하게 나타난다. 경사하강법은 모델 구조를 효율적으로 쓰겠다는 약속을 전혀 하지 않는다는 뜻이다.

깊이의 이점은 접기 연산이 스스로에게 누적되는 데서 나온다. 첫 층이 만든 접힌 면을 두 번째 층이 다시 접으면, 접히는 자리가 이미 꺾여 있어 새 접힘선도 여러 각도로 꺾인다. 뉴런 두 개짜리 층을 하나 더했을 뿐인데 지도의 조각 수가 4개에서 10개로 늘어난다. 층을 더 쌓고 폭을 32개까지 키운 모델은 국경 주변에만 잘게 조각을 만들어 마을의 모든 구역을 잡아냈다.

주요 인사이트

• '표현할 수 있다'와 '학습으로 찾을 수 있다'는 완전히 다른 문제다. 보편 근사 정리를 '신경망은 무엇이든 배울 수 있다'로 읽는 것은 오독이다.
• 깊이가 주는 것은 표현력의 종류다. 얕은 망이 직선 여러 개를 겹쳐 지도를 나누는 데 그친다면, 깊은 망은 이미 접힌 면을 다시 접어 질적으로 다른 모양의 조각을 만든다.
• 이론적 상한은 방향만 알려준다. 뉴런 64개를 네 층으로 재배치하면 이론상 7천만 개가 넘는 영역을 만들 수 있지만, 실제 학습된 모델은 그 근처에도 가지 않는다.
• 죽은 뉴런과 초기화 실패는 예외가 아니라 기본값에 가깝다. 큰 모델이 잘 학습되는 이유도 국소 최소점을 피해서라기보다, 고차원에서 갇힐 확률이 줄어들기 때문이라는 설명이 붙는다.
• 10년 전 같은 주제를 다뤘던 제작자의 회고처럼, 역전파와 경사하강법이라는 핵심은 그대로인데 규모만 커졌고 그 규모가 왜 통하는지는 아직 다 밝혀지지 않았다.

자주 묻는 질문

관련 AI 소식