AI 역사 80년 정리: 튜링부터 트랜스포머까지, 두 번의 AI 겨울과 딥러닝 전환점

핵심 메시지

• AI 붐은 혁신적 알고리즘, 충분한 데이터, 이를 감당할 하드웨어가 동시에 갖춰졌을 때만 일어났다.
• 1970년대와 1980년대 말 두 차례의 'AI 겨울'은 모두 과도한 기대가 성과로 이어지지 못하면서 찾아왔다.
• 2012년 알렉스넷의 이미지 인식 성적은 개선이 아니라 판을 뒤집는 수준이었고, 이후 연구 방향 전체가 딥러닝으로 기울었다.
• 층을 깊게 쌓을수록 정보가 소실되는 문제는 스킵 커넥션이라는 우회로로 풀렸고, 2015년 레스넷은 이미지 인식에서 사람의 오류율을 넘어섰다.
• 2017년 트랜스포머의 셀프 어텐션은 문장을 순서대로 읽는 대신 전체를 한 번에 보며 단어 사이 관계를 파악하게 만들었고, 오늘날 생성형 AI의 토대가 됐다.

쉽게 이해하기

챗GPT와 소라 같은 서비스를 보면 AI가 어느 날 갑자기 나타난 기술처럼 느껴지지만, 영상은 그 반대라고 말한다. AI의 역사는 80년에 걸쳐 기대와 좌절을 반복해온 궤적이며, 그 오르내림을 이해하는 열쇠로 세 가지 조건을 제시한다. 뛰어난 알고리즘, 학습시킬 대량의 데이터, 그리고 그것을 돌릴 만한 하드웨어다. 이 셋이 동시에 맞아떨어질 때만 붐이 왔다는 것이다.

첫 장은 1940~50년대다. 앨런 튜링이 기계도 생각할 수 있는지를 묻고 튜링 테스트를 제안했고, 1956년 다트머스 워크숍에서 이 분야에 '인공지능'이라는 이름이 붙었다. 당시 제안서에는 학습의 모든 양상을 기계가 흉내 낼 수 있다는 문장이 담겼을 만큼 자신감이 컸다. 1966년에는 최초의 챗봇으로 불리는 일라이자가 등장했는데, 사용자들이 실제 심리치료사와 대화하는 줄 알 정도였다.

이 자신감은 조합적 폭발이라는 벽에 부딪혔다. 체스처럼 규칙이 정해진 문제는 잘 다뤘지만, 변수가 많은 현실 세계에서는 따져야 할 경우의 수가 감당할 수 없게 늘어났고 당시 컴퓨터 성능으로는 어림도 없었다. 1973년 영국의 라이트힐 보고서가 성과가 없다고 결론 내리자 정부 지원이 끊겼고, 첫 번째 AI 겨울이 시작됐다.

1980년대의 두 번째 붐을 이끈 것은 돈이었다. 전문가의 지식을 '이런 경우에는 이렇게 하라'는 규칙으로 옮겨 컴퓨터에 넣은 전문가 시스템이 등장했고, 엑스콘을 도입한 기업이 연간 4천만 달러를 아꼈다는 사례가 투자를 끌어들였다. 하지만 시스템이 커질수록 사람이 직접 넣어야 할 규칙이 수만, 수십만 개로 불어났고 규칙끼리 충돌하면서 관리가 불가능해졌다. 결국 두 번째 겨울이 찾아왔다.

전환점은 사람이 규칙을 가르치는 대신 기계가 데이터에서 스스로 규칙을 찾는 방식이었다. 2012년 이미지넷 대회에서 기존 모델들이 25%를 넘던 오류율을 알렉스넷이 15%까지 끌어내렸다. 2014년에는 무조건 깊게 쌓자는 브이지지넷과 구조를 효율적으로 짜자는 구글넷이 각기 다른 길로 성공했다. 다만 층이 깊어질수록 정보가 중간에 소실되는 문제가 남았는데, 중간중간 지름길을 뚫어주는 스킵 커넥션이 이를 해결하면서 수백 층 규모의 신경망이 가능해졌다. 이 구조를 쓴 레스넷은 2015년 오류율 3.6%를 기록해, 약 5%로 알려진 사람의 오류율을 처음으로 넘어섰다.

이미지 다음은 언어였다. 2017년 등장한 트랜스포머의 셀프 어텐션은 단어를 순서대로 읽는 대신 문장 전체를 한 번에 보고 어떤 단어가 중요한지, 단어들이 서로 어떤 관계인지를 동시에 파악한다. 이 구조 위에서 2022년 이후 생성형 AI가 폭발했다. 그해 7월 이미지 생성 서비스가 나오고 11월 챗GPT가 닷새 만에 이용자 100만 명을 모았으며, 이후 GPT-4와 제미나이 1.5, 그리고 추론을 수행하는 o1 계열 모델이 이어졌다. 영상은 다음 방향을 추론으로 본다. 패턴을 보고 빠르게 답하는 시스템 1에서, 복잡한 문제를 단계별로 풀어내는 시스템 2로 옮겨가고 있다는 것이다.

주요 인사이트

• AI 겨울은 기술이 틀려서가 아니라 기대가 성과를 앞질러서 왔다. 지금의 열기에도 같은 잣대를 들이댈 수 있다는 점에서 이 역사는 현재형 교훈이다.
• 세 가지 조건 가운데 어느 하나만 앞서가면 붐은 오지 않는다는 정리가 유용하다. 초기 신경망 아이디어가 오래 묻혀 있던 것도 데이터와 연산이 따라오지 못했기 때문이다.
• 전문가 시스템의 실패는 규칙을 사람이 직접 유지해야 하는 시스템의 한계를 보여준다. 규모가 커지면 관리 비용이 성능 이득을 압도한다는 문제는 오늘날 규칙 기반 자동화에도 그대로 적용된다.
• 스킵 커넥션처럼 단순한 아이디어가 규모의 한계를 푸는 경우가 있다. 성능 향상이 늘 새로운 이론에서만 나오지 않는다는 점을 보여주는 사례다.
• 영상이 마지막에 강조한 것은 기술이 아니라 태도다. 섣부른 기대의 위험, 실패 위에 쌓이는 성공, 오픈소스의 기여, 그리고 강력해질수록 커지는 윤리와 규제의 필요를 나란히 놓았다.

자주 묻는 질문

관련 AI 소식