AI가 못 하는 일: 스탠퍼드 GSB 길보 교수가 짚은 인간 지능과 LLM의 결정적 차이

핵심 메시지

• 인간은 기억·주의·시간 등 온갖 제약 속에서도 아주 적은 정보로 수학과 양자물리학 같은 깊은 이해에 도달하지만, 현재의 AI는 정반대로 막대한 연산과 데이터를 쏟아부어 상대적으로 적은 일을 해낸다.
• 노벨상 수상자 허버트 사이먼이 말한 '만족화(satisficing)'처럼, 사람은 최적해를 계산하는 대신 '충분히 괜찮은' 모형에 도달하면 곧바로 행동하고 실시간으로 조정한다.
• 대규모 언어모델은 문장에서 빠진 단어를 맞히기 위해 인터넷에 존재하는 방대한 문장을 훑는 방식으로 학습하지만, 어떤 인간도 그만한 데이터를 경험하지 않는다.
• 길보 교수 연구팀은 아이가 문법 규칙을 익히는 과정부터 직장 복장 규범·인사말·대화 주제의 적절성 판단까지를 설명하는 단순한 수학적 규칙성을 발견했다.
• 사람은 임계점에 이르기 전까지 사실상 무작위로 행동하다 갑자기 안정된 범주적 이해로 '도약'하는데, 현재의 LLM이 이런 전환을 이해할 수 있을지는 불확실하다.

쉽게 이해하기

스탠퍼드 경영대학원(GSB)의 팟캐스트 '이프/덴(If/Then)'은 조직행동학 조교수 더글러스 길보를 초대해 'AI가 할 수 없는 일, 그리고 어쩌면 영원히 할 수 없을지 모르는 일'을 주제로 대화를 나눴다. 진행자 케빈 쿨은 이 대화의 핵심을 인간 인지가 단순히 큰 계산을 돌려 답에 도달하는 '무차별 대입(brute force)' 방식보다 훨씬 복잡하다는 점에 있다고 정리했다. 길보 교수는 AI 기술이 놀랍지 않다고 말하는 것이 아니라, 인간도 그만큼 놀랍다고 말하는 것이라고 강조한다.

길보 교수가 문제 삼는 것은 비대칭성이다. 인간은 특정한 몸을 갖고 있고 기억과 주의에는 한계가 있으며 특정한 발성 기관으로만 소통해야 하는 등 어디를 봐도 제약투성이다. 그런데도 인간은 자기 체급을 훨씬 뛰어넘는 이해에 이른다. 반면 현재의 AI는 정반대 전략을 쓴다. '나는 개를 산책시키려고 목줄을 잡았다'라는 문장에서 빈칸을 채우기 위해 인터넷에 존재하는 거의 모든 문장을 훑어야 하고, 그래서 텍사스 오스틴만 한 크기의 데이터센터가 필요하다는 것이다.

그가 최근 발표한 논문의 제목은 '단순한 임계값이 관습의 사회적 학습을 포착한다'로, 표면적으로는 AI를 다루지 않는다. 하지만 논문이 지적하는 '최적화 기반 모형은 인간의 사회적 학습을 특징짓는 단순한 범주적 과정을 놓칠 수 있다'는 문제는 곧바로 AI로 이어진다. 인간의 행동을 시뮬레이션하는 틀로 LLM을 채택하는 흐름이 가속될수록, 통계적 최적화라는 렌즈로는 보이지 않는 사각지대가 그대로 유지된다는 것이 그의 우려다.

길보 교수는 이 연구가 특히 '이 시대에 자기 자리와 목적을 이해하려는 모든 사람'을 향한 메시지라고 말한다. 그는 샌프란시스코에서 본 AI 스타트업 광고 두 개를 예로 든다. 하나는 '무엇이든 예측한다(Predict anything)'였고, 다른 하나는 '인류는 잘 달려왔다(Humanity has had a good run)'였다. 이런 서사가 확산되면서 사람들이 무력감과 두려움을 느끼지만, 그가 보기에 인간이 곧 쓸모없어진다고 결론 낼 근거는 전혀 없다.

그가 인간 학습의 핵심으로 꼽는 것은 '도약'이다. 수학자들이 10년간 실패를 거듭하면서도 어떤 직관 하나를 붙들고 버티다 돌파구를 여는 사례처럼, 인간은 은유와 유추를 쓰고 아이디어에 대한 미적 감각을 갖는다. 그의 논문에서도 사람들은 임계점 전까지는 거의 무작위로 행동하다 갑자기 안정된 범주적 이해로 넘어간다. 그는 인간이 무질서와 잡음, 말로 표현할 수 없는 것들 속에서 의미를 만들어내는 존재이며, 반듯하게 정돈된 문장 데이터로 학습하는 현재의 접근이 이 문제를 풀 위치에 있는지는 분명하지 않다고 말한다.

주요 인사이트

• AI 담론에서 '인간도 결국 예측 기계'라는 전제를 받아들이는 순간, 계산에서 기계가 앞서는 것은 당연해지고 자신의 존재 가치를 방어할 논리 자체가 사라진다는 것이 길보 교수의 경고다.
• LLM에 주어지는 학습 데이터는 이미 고도로 구조화된 문장이다. 단어 하나를 지워도 그 자리에 무언가 들어가야 한다는 사실이 보장되는데, 인간의 진화 과정에는 그런 '학습용 목발'이 없었다.
• 모형이 잘 보정(calibration)되기를 원한다면 사실이 아닌 것에 확률을 전혀 주지 않게 만드는 일은 불가능하다는 이론적 결과가 있듯이, 최적화 틀 자체에 내재한 한계가 존재한다.
• 길보 교수 연구팀은 LLM을 같은 실험에 넣어 재현했을 때 모형이 '최적화 접근'에서 예상되는 대로 행동했다고 밝혔다. 이는 예측 기반 학습이 인간 본성을 이해하는 데 한계가 있을 가능성을 시사한다.
• PNAS에 실린 한 연구는 수학자들이 통찰을 얻기 직전 몸짓이 더 불규칙해지고 시선이 여기저기 흩어지는 등 오히려 혼돈에 가까워진다는 점을 보여줬다. 무작위성을 활용해 의미를 만들어내는 능력이 인간 학습의 특징이라는 것이다.

자주 묻는 질문

관련 AI 소식