기계학습의 역사 정리: 톰 미첼이 짚은 퍼셉트론부터 트랜스포머까지의 전환점과 교훈

핵심 메시지

• 카네기멜런대에서 세계 최초의 머신러닝 학과를 만든 톰 미첼이, 기계학습이 어떻게 지금에 이르렀는지를 당사자 인터뷰를 곁들여 정리했다.
• 그의 한 문장 요약은 '50년간 지능을 손으로 프로그래밍하려다, 10여 년 전에야 가르치는 편이 훨씬 쉽다는 것을 깨달았다'는 것이다.
• 1969년 퍼셉트론 비판으로 신경망 연구가 끊겼다가 1980년대 역전파로 되살아나고, 1990년대 통계·확률 모형에 밀렸다가 2012년 이미지넷에서 다시 뒤집히는 파도가 반복됐다.
• 핵심 아이디어 상당수가 신경과학·계산복잡도·통계학 등 분야 바깥에서 들어왔고, 문제를 다시 정의한 순간들이 돌파구가 됐다.
• 미첼은 다음 돌파구로 로봇 등 물리 세계의 AI를 꼽으면서, 사람들이 AI 도우미의 제안을 승인하거나 거부하며 매일 만들어내는 데이터의 의미를 과소평가하고 있다고 지적했다.

쉽게 이해하기

미첼은 아리스토텔레스에서 이야기를 시작한다. 개별 사례를 보고 일반적인 본질을 어떻게 알아내는가라는 질문, 지금까지 본 백조가 모두 희다고 모든 백조가 희다고 말해도 되느냐는 귀납의 정당화 문제가 그 출발점이다. 오컴은 데이터에 맞는 가장 단순한 가설을 택하라고 했고, 베이컨은 가설을 반증할 실험 설계의 중요성을 더했으며, 흄은 결국 가정 없이는 귀납을 정당화할 수 없다고 못 박았다.

컴퓨터가 등장하자 튜링은 어른의 정신을 흉내 내는 프로그램 대신 아이의 정신을 만들어 교육하자고 제안했지만 알고리즘은 없었다. 1959년 IBM의 아서 새뮤얼이 체커 프로그램으로 '프로그램을 짠 사람보다 잘 두는 컴퓨터'를 보였고, 같은 시기 프랭크 로젠블랫이 뇌의 신경 회로에서 착안한 퍼셉트론을 내놨다. 그러나 1969년 민스키와 페퍼트가 한 층짜리 퍼셉트론은 배타적 논리합조차 배울 수 없음을 증명하면서 연구 흐름이 끊겼다.

1970년대의 대안은 기호적 개념 학습이었다. 선 그림을 보고 '아치란 무엇인가'를 규칙으로 정리하는 방식이었고, 스탠퍼드의 브루스 뷰캐넌은 질량분석기에서 분자가 어떻게 쪼개지는지를 학습해 그 규칙을 화학 학술지에 실었다. 기계학습 프로그램이 찾아낸 결과가 해당 분야 저널에 실린 첫 사례였다. 1980년 카네기멜런에서 열린 첫 워크숍에는 서른 명 남짓이 모여 서른 개의 서로 다른 이야기를 했고, 그 자리에서 로스 퀸란이 발표한 의사결정나무 ID3는 훗날 상업적으로 가장 널리 쓰인 기법 중 하나가 됐다.

1984년 레슬리 밸리언트가 내놓은 학습 이론은 필요한 학습 사례 수가 가설 공간의 복잡도, 허용 오차율, 실패 확률 세 가지에 달려 있음을 보였다. 미첼은 이 연구의 진짜 기여가 특정 정리보다 문제를 다시 정의한 데 있다고 평가한다. 1980년대 중반에는 역전파로 다층 신경망이 되살아났고, 힌턴은 가족 관계를 담은 112개 예시로 지금의 언어모델과 같은 발상을 실험했다. 딘 포멀로의 자율주행 신경망은 사람이 운전하는 영상을 5분쯤 학습해 스스로 핸들을 잡았고, 피츠버그에서 이리까지 약 160km를 시속 90km 가까이 달렸다. 교사 신호가 없을 때를 다루는 강화학습도 이 시기에 하나의 분야로 자리 잡았다.

1990년대의 주제는 통계와 확률의 결합이었고, 확률 그래프 모형과 이를 데이터로부터 학습하는 연구가 중심에 섰다. 2000년대에는 알고리즘보다 데이터와 계산량이 병목이라는 주장이 힘을 얻었고, 2012년 이미지넷 대회에서 힌턴 연구실의 신경망이 오류율을 25% 수준에서 15% 안팎으로 끌어내리며 판이 뒤집혔다. 이후 음성 인식이 사람 수준에 도달하고, 번역을 위해 도입된 어텐션이 2017년 트랜스포머로 이어졌다. 미첼은 권위를 의심하고, 새 패러다임 앞에서 발을 빼지 말고, 좋은 아이디어는 전달하고 끝까지 밀고 나가라는 조언으로 강연을 맺으면서, 그럼에도 일반화가 왜 작동하는지에 대한 논리적 방어는 아직 없다는 철학자들의 지적이 여전히 유효하다고 덧붙였다.

주요 인사이트

• 이 분야의 진보는 축적이 아니라 교체에 가깝다. 퍼셉트론에서 기호 학습으로, 다시 신경망으로, 확률 모형으로, 또 딥러닝으로 패러다임이 서로를 밀어냈다.
• 결정적인 아이디어는 대체로 바깥에서 왔다. 퍼셉트론은 신경과학 관심에서, 학습 이론은 계산복잡도 연구자에게서, 그래프 모형은 통계학에서 들어왔다.
• 미첼은 기술적 사실만큼이나 사회적 힘이 분야의 방향을 정한다고 봤다. 장기적으로는 잘 작동하는 알고리즘이 살아남지만, 단기적으로는 선배 연구자들의 발언이 대학원생들의 선택을 좌우한다는 것이다.
• 신경기호주의에 대한 그의 답은 회의적이다. 언어야말로 가장 기호적인 체계이므로 언어모델이 이미 그 역할을 하고 있으며, 지식을 논리식으로 적는 방식은 오히려 부서지기 쉽고 표현력이 떨어진다고 봤다.
• 그는 사람들이 코딩 도우미의 제안을 승인하거나 되돌리며 매일 쌓는 판단 데이터를 다음 도약의 재료로 꼽았다. 수십억 건 규모의 '이건 맞고 저건 틀리다'는 신호가 지금 만들어지고 있다는 것이다.

자주 묻는 질문

관련 AI 소식