딥러닝 한계 정리: 기계 번역과 알파고는 넘어섰지만 상식과 열린 세계는 여전히 인공지능의 숙제

핵심 메시지

• 딥러닝 기계 번역은 품사·문법 같은 언어학 규칙을 넣지 않고 두 언어의 문장 쌍만 주는 방식으로 성능을 크게 끌어올렸다.
• 알파고의 성취는 바둑이 규칙이 명확하고 스스로 연습이 가능한 '닫힌 세계'였기에 가능했고, 실세계에 그대로 옮겨지지 않는다.
• 현재 딥러닝은 입력과 출력이 분명한 문제에만 강하고, 방대한 데이터와 연산을 요구하며 실시간 학습을 하지 못한다.
• 왜 그런 답을 냈는지, 그 답을 얼마나 확신하는지 설명하지 못하는 것도 딥러닝의 뚜렷한 약점이다.
• 강연자는 지능을 '목표를 위해 세상을 지각하고 상호작용하며 스스로 문제를 풀어가는 능력'으로 보고, 그 기준에서 현재 AI 수준은 아직 낮다고 진단한다.

쉽게 이해하기

강연은 딥러닝의 대표 성과로 기계 번역을 꺼내며 시작한다. 기계 번역은 인공지능 역사와 부침을 함께한 분야로, 1960년대 냉전기에는 상대 진영의 정보를 얻으려는 목적으로 번역과 음성 인식에 많은 투자가 몰렸지만 결국 실패해 사실상 포기됐다. 판을 바꾼 것은 2000년대 웹이었다. 같은 내용을 여러 언어로 적어 둔 위키피디아 문서나 다국어 홈페이지가 쌓이면서 학습에 쓸 병렬 데이터가 생겼고, 구글을 중심으로 데이터 기반 번역 연구가 다시 살아났다.

달라진 것은 데이터만이 아니라 접근 방식이었다. 과거에는 품사를 구분하고 문법과 어순 변형 규칙을 사람이 집어넣어 번역기를 만들었지만, 신경망 기반 번역에는 그런 규칙이 없다. 영어 문장과 한국어 문장을 짝지어 주고 나머지는 신경망과 병렬 연산에 맡기면, 기계가 두 언어의 특성을 스스로 잡아낸다. 성능은 크게 좋아졌지만 무엇을 어떻게 배웠는지 명확히 보여주지 못한다는 점은 남는다. 강연자는 이 지점에서, 사람도 문법을 배우기는 하지만 실제로 어떻게 언어를 구사하는지 스스로 잘 모른다는 사실을 함께 짚는다.

이어서 한계가 정리된다. 딥러닝은 입력과 출력이 명확히 정의되기만 하면 그 내용이 문장이든 영상이든 상당히 잘 해내지만, 그런 문제에서만 강하다. 또한 어마어마한 데이터와 연산 자원을 필요로 한다. 사람은 지금 이 순간에도 주변을 이해하며 지식을 갱신하고 한 번 본 것만으로도 배우지만, 딥러닝은 그런 즉각적인 갱신을 하지 못한다. 결과를 잘 내놓으면서도 그 이유와 확신의 정도를 설명하지 못하는 점 역시 약점으로 지목된다.

AI가 사람을 확실히 앞선 사례로는 알파고가 등장한다. 바둑은 계산 복잡도가 극도로 높은 문제지만, 규칙이 명확하고 잘 정의된 '닫힌 세계'라 기계가 스스로 대국을 반복하며 학습할 수 있었다. 그 결과 인류가 찾지 못한 수까지 발견했다. 반대로 사람이 여전히 앞서는 영역도 분명하다. 테니스처럼 아주 짧은 시간 안에 변화를 예측해야 하는 동적인 상황, 그리고 무엇보다 상식이 그렇다. 스마트폰을 놓으면 떨어져 깨진다는 것, 롤러스케이트는 모래나 풀밭이 아니라 아스팔트에서 타야 한다는 것을 사람은 즉시 알지만 기계에게 이런 지식을 넣어 주는 일은 아직 큰 과제다.

마지막으로 강연은 '인간 수준의 인공지능'이라는 오래된 목표로 돌아간다. 인공지능이라는 말이 생긴 지 50년이 되던 무렵 연구자들이 다음 50년의 목표를 논의했던 흐름을 소개하며, 진짜로 다뤄야 할 것은 닫힌 세계가 아니라 열린 세계라고 말한다. 여러 센서에서 끊임없이 흘러 들어오는 데이터를 다루고, 상황과 맥락을 파악하며, 학습할 때와 실제로 쓸 때의 데이터 분포가 같다는 가정이 깨지는 환경에서 작동해야 한다는 것이다. 그리고 이런 일을 이미 아주 잘 해내는 존재 증명으로 사람과 동물의 뇌를 들며, 뇌를 닮은 인지과학적 접근이 결국 답에 가까울 수 있다고 전망한다.

주요 인사이트

• 성능이 좋아지는 것과 설명 가능해지는 것은 별개다. 신경망 번역은 규칙을 버려 성능을 얻었지만, 무엇을 배웠는지 사람에게 보여주는 능력은 함께 얻지 못했다.
• 닫힌 세계에서의 압도적 성공을 열린 세계로 일반화하면 안 된다. 알파고가 가능했던 조건은 명확한 규칙과 무한한 자가 대국이었고, 실생활에는 둘 다 없다.
• 딥러닝은 학습 데이터와 실제 데이터가 같은 분포에서 나온다고 가정하지만, 방을 나서는 순간 그 가정은 무너진다. 실세계 적용의 어려움은 여기서 시작된다.
• 현재 인공지능의 가장 약한 고리는 계산량이 아니라 상식이다. 물체가 떨어지면 깨진다는 수준의 지식을 어떻게 기계에 넣을 것인가가 핵심 과제로 남는다.
• 지능을 '자율적으로 문제를 해결하는 능력'으로 정의하면, 지금의 AI는 사람이 준 데이터로 함수를 근사하는 단계에 머물러 있다는 평가가 가능해진다.

자주 묻는 질문

관련 AI 소식