뇌는 예측하는 기계다: 맥스 베넷이 말하는 6억 년 뇌 진화와 언어 모델의 결정적 차이

핵심 메시지

• 우리가 보는 것은 감각 자체가 아니라 뇌가 감각을 근거로 추론해 그려 낸 세계다. 착시가 생기는 이유도 여기에 있다.
• 뇌가 한 번에 하나의 장면만 그릴 수 있기 때문에 오리와 토끼를 동시에 볼 수 없다.
• 쥐가 갈림길에서 망설일 때 뇌의 장소 세포는 아직 가지 않은 길을 따라 차례로 켜진다. 상상하는 장면을 그대로 관찰한 셈이다.
• 영장류의 뇌가 커진 배경으로는 무리 안의 정치적 경쟁이 지목된다. 힘이 아니라 관계를 다루는 능력이 생존을 좌우했다.
• 언어 모델과 사람의 결정적 차이는 지식의 양이 아니라, 가설을 세우고 세계에 개입해 확인하는 능력의 유무다.

쉽게 이해하기

대담의 출발점은 감각과 지각이 다르다는 오래된 발견이다. 19세기 착시 연구는 실제로는 없는 삼각형을 사람이 또렷하게 보는 현상을 남겼다. 여기서 나온 해석은 뇌가 감각 신호를 그대로 경험하는 것이 아니라, 세계에 무엇이 있는지 먼저 추론하고 감각을 그 추론의 증거로 쓴다는 것이다. 달빛이 사라져도 나뭇가지 위를 계속 걸을 수 있는 이유가 여기에 있다.

이 관점은 뇌가 한 번에 하나의 장면만 그린다는 사실과도 맞물린다. 오리와 토끼가 동시에 보이지 않는 이유는 세계에 그런 것이 존재하지 않기 때문이다. 뇌는 여러 감각 입력을 통합해 하나의 해석만 띄운다. 그리고 감각을 끊어 버리면 같은 장치가 상상으로 바뀐다. 눈을 감고 의자를 떠올려 돌려 보는 일이 가능한 것은 지각과 상상이 같은 구조의 앞뒷면이기 때문이다.

게스트가 자신의 기여로 꼽는 지점은 신피질의 가치를 사물 인식이 아니라 시뮬레이션에서 찾는다는 점이다. 물고기도 사람 얼굴을 알아보고 3차원으로 회전한 물체를 한 번에 알아본다. 인식 능력만으로는 신피질이 있는 동물과 없는 동물의 경계가 잘 그어지지 않는다. 대신 감각 없이도 세계를 탐색할 만큼 풍부한 모형을 만드는 일이 신피질이 더한 능력이라는 설명이다. 이 주장은 쥐 실험으로 뒷받침된다. 미로의 갈림길에서 쥐가 좌우를 살피며 망설일 때, 해마의 장소 세포는 현재 위치가 아니라 앞으로 갈 수 있는 각 경로를 따라 차례로 켜진다. 선택하지 않은 먹이를 나중에 떠올리며 후회하는 듯한 반응도 관찰된다. 다만 상상할 수 있는 미래는 무한해서, 무엇을 시뮬레이션할지 고르는 문제가 남는다. 대담은 알파고가 상위 후보 몇 개만 골라 펼쳐 보는 방식을 단서로 들면서도, 포유류가 불확실할 때만 멈춰 생각하는 기준은 아직 모른다고 인정한다.

영장류 구간에서는 이야기가 사회로 옮겨 간다. 영장류는 집단 크기와 신피질 비율의 상관이 두드러지고, 서열도 힘이 아니라 동맹으로 결정되는 경우가 많다. 침팬지들이 먹이 위치를 두고 속이고, 속는 척하고, 다시 엉뚱한 방향으로 유인하는 일화는 남의 머릿속을 모형으로 삼는 능력이 이 경쟁에서 나왔음을 보여 준다.

마지막으로 대담은 현재의 언어 모델을 정면으로 다룬다. 게스트는 언어 모델에 세계에 대한 모형이 없다는 말은 오해라고 선을 긋는다. 다만 사람들이 말하는 세계 모형은 가설을 세우고 개입해 확인하는 능력을 뜻하며, 그 점이 결정적으로 다르다고 본다. 잘못된 정보를 학습 데이터에 넣으면 모델은 그대로 받아들이지만, 가설을 검증하는 존재라면 자기 모형과 어긋나는 정보를 스스로 실험해 걸러 낸다는 것이다.

주요 인사이트

• 지각을 추론으로 보는 관점은 신피질의 배선과도 맞아떨어진다. 위에서 아래로 내려오는 연결이 아래에서 위로 올라가는 연결보다 풍부한데, 이는 예측을 만들어 내리는 구조에서 기대되는 모습이다.
• 행동을 설명할 수 있다는 것은 계획을 세워 실행했다는 뜻이다. 걷다가 발을 왜 그 자리에 놓았느냐는 질문에는 답할 수 없지만, 배가 고파 식당에 갔다는 설명은 쉽게 나온다. 이 차이가 계획 능력의 흔적이다.
• 전두엽의 큰 영역이 손상돼도 지능 검사 점수는 크게 떨어지지 않아 오랫동안 수수께끼로 남았다. 차이는 다른 데서 드러난다. 손상 환자에게 이야기를 만들어 보라고 하면 배경은 생생하게 묘사하면서 정작 자기 자신을 그 장면에 넣지 못한다.
• 속임수와 권력 추구가 진화에서 자연스럽게 나타난다는 사실이 그것을 옳다고 만들지는 않는다. 게스트는 오히려 AI를 설계하는 입장이라면 진화가 남긴 그런 짐을 덜어 낼 기회가 있다고 본다. 요청을 문자 그대로 따르는 대신 요청한 사람이 무엇을 원했는지 모형화하게 만드는 접근도 같은 맥락에서 제시된다.
• 문화적으로 널리 퍼지는 생각이 반드시 참이거나 우리를 행복하게 하는 생각은 아니다. 살아남는 것과 옳은 것은 별개라는 구분이 이 대담 전체를 관통한다.

자주 묻는 질문

관련 AI 소식