MIT 6.S191 강의 정리 — 신경망의 한계, 확산 모델, 대규모 언어 모델의 창발

핵심 메시지

• 1989년의 보편 근사 정리는 은닉층 하나짜리 신경망으로도 연속 함수를 근사할 수 있다고 말하지만, 층의 크기와 일반화 성능에 대해서는 아무것도 보장하지 않는다.
• 이미지 라벨을 무작위로 뒤섞어도 신경망은 훈련 데이터를 거의 완벽히 외워버린다. 강의는 이 실험을 들어 '학습이 됐다'와 '일반화가 됐다'가 전혀 다른 문제임을 강조한다.
• 학습 데이터 분포 밖의 상황, 즉 분포 외 입력에서 모델이 어떻게 행동할지에 대한 이론적 보장은 아직 없고, 이것이 자율주행처럼 안전이 걸린 분야에서 사고로 이어진 사례가 있다.
• 입력에 사람 눈에 보이지 않는 잡음을 더해 분류를 무너뜨리는 적대적 공격은 가중치가 아니라 입력을 경사 방향으로 밀어 손실을 키우는 방식으로 만들어진다.
• 확산 모델은 데이터에 잡음을 단계적으로 더한 뒤 그 역과정을 학습하는 방식으로 GAN의 불안정성을 넘었고, 언어 모델은 규모를 키우자 특정 임계점에서 새로운 능력이 튀어나오는 창발 현상을 보였다.

쉽게 이해하기

MIT의 딥러닝 입문 과목 6.S191의 여섯 번째 강의는 강사 본인이 가장 좋아하는 시간이라고 소개하며 시작한다. 지금까지 배운 기술이 얼마나 멀리 왔는지가 아니라, 아직 풀리지 않은 것이 무엇인지를 정면으로 다루기 때문이다. 강의는 신경망의 이론적 출발점으로 돌아가 한계를 짚은 뒤, 그 한계를 넘어서려는 최근의 두 흐름인 확산 모델과 대규모 언어 모델로 이어진다.

출발점은 1989년에 제시된 보편 근사 정리다. 완전연결 은닉층 하나만 있어도 어떤 연속 함수든 원하는 정밀도로 근사할 수 있다는 강력한 주장이지만, 강의는 두 가지 단서를 붙인다. 첫째, 그 층에 뉴런이 몇 개나 필요한지에 대한 제한이 없다. 둘째, 더 중요하게도 이 정리는 일반화에 대해 아무런 보장을 하지 않는다. 훈련 데이터에 잘 맞추는 것과 처음 보는 데이터에서 잘 작동하는 것은 별개라는 뜻이다.

이 차이를 극적으로 보여준 것이 이미지넷 라벨을 무작위로 뒤섞은 실험이다. 이미지마다 클래스 수만큼의 면을 가진 주사위를 굴려 라벨을 다시 붙이면, 같은 물체 사진이 서로 다른 엉뚱한 라벨을 갖게 된다. 이렇게 망가뜨린 데이터로도 충분히 오래 학습시키면 신경망은 훈련 세트를 거의 완벽하게 분류해낸다. 반면 테스트 성능은 무작위화 정도에 비례해 무너진다. 모델이 함수를 근사하는 능력과 세상을 이해하는 능력은 같은 것이 아니다.

강의는 이어서 데이터가 만들어내는 실패들을 나열한다. 흑백 사진에 색을 입히도록 학습한 모델이 개의 귀에 초록빛을 칠하는 사소한 오류부터, 학습 당시 거리 이미지에는 없던 공사용 방호벽이 실제 도로에 세워지면서 벌어진 자율주행 사망 사고까지. 공통점은 모델이 '모른다는 것을 모른다'는 데 있다. 불확실성을 정량화하는 문제가 의료·자율주행 같은 안전 필수 영역에서 여전히 열린 연구 주제로 남아 있는 이유다.

후반부는 이 한계들을 넘어서려는 두 방향을 다룬다. 하나는 확산 모델이다. 데이터에 잡음을 조금씩 더해가는 정방향 과정을 정의한 뒤, 신경망이 그 역방향인 잡음 제거 과정을 학습한다. 추론할 때는 순수한 잡음에서 시작해 이 과정을 반복하며 새로운 샘플을 만들어낸다. 다른 하나는 언어 모델이다. 다음 토큰 예측이라는 단순한 목적 함수에 데이터·연산·파라미터의 규모가 더해지자, 특정 임계점을 넘는 순간 이전에 없던 능력이 계단식으로 나타나는 창발 현상이 관찰됐다.

주요 인사이트

• 이론이 '가능하다'고 말하는 것과 실무에서 '작동한다'는 것 사이에는 큰 틈이 있다. 보편 근사 정리는 신경망의 표현력을 보장할 뿐, 그 표현력이 우리가 원하는 방향으로 쓰인다는 보장은 하지 않는다.
• 강의는 딥러닝을 연금술에 비유하는 시각을 경계하면서 동시에 '쓰레기를 넣으면 쓰레기가 나온다'는 오래된 격언을 상기시킨다. 문제를 정의하고 데이터를 확보하는 단계에서 애초에 딥러닝이 적절한 도구인지 묻는 일이 먼저다.
• 적대적 공격의 원리는 학습 과정을 뒤집은 것이다. 가중치를 고정하고 입력을 바꿔 손실을 키우면 사람 눈에는 그대로인 이미지가 모델에게는 전혀 다른 물체가 된다. 이 아이디어는 2차원 이미지를 넘어 실제 3차원 물체로도 구현됐다.
• 언어 모델이 잘 보정될수록 오히려 환각이 필연적으로 발생한다는 최근 연구가 강의에서 언급된다. 그럴듯하다는 것과 확신할 만하다는 것은 다르며, 언어 모델의 불확실성 정량화는 아직 미해결 문제다.
• 강의의 마무리는 기술론이 아니라 관계론이다. 모델은 어디까지나 도구로 남고, 사람은 모델이 못 하는 창의적 과정을 맡되 자신의 한계는 모델의 능력으로 보완한다는 그림을 학생들에게 남긴다.

자주 묻는 질문

관련 AI 소식