뇌는 컴퓨터라는 은유의 함정, 자유에너지 원리와 과학적 단순화가 놓치는 것들 정리

핵심 메시지

• 과학은 반드시 단순화를 거치지만, 단순화된 모델을 현실 그 자체로 착각하는 순간 문제가 시작된다.
• 뇌를 설명하는 비유는 시대마다 그 시대의 최신 기술이었다. 수압 자동인형에서 전신망, 전화 교환대, 그리고 오늘의 컴퓨터로 바뀌어 왔다.
• 마음이 소프트웨어라는 주장은 형이상학적 내기이며, '같은 알고리즘'이라는 동일성 자체가 인간이 부여한 기술(記述)이라는 반론이 있다.
• 예측을 잘하는 모델과 이해를 주는 모델은 서로 당기는 목표이며, 이해를 포기하면 모델이 언제 무너질지 알 수 없게 된다.
• AI가 필연처럼 느껴지는 감각은 생명과 마음을 기계로 보는 지적 전통에서 물려받은 것일 수 있다.

쉽게 이해하기

영상은 어린 시절 정원에서 쥐며느리를 관찰하던 칼 프리스턴의 일화로 시작한다. 햇빛과 그늘에 따라 벌레의 움직임이 달라진다는 관찰은 훗날 지각·행동·학습을 하나의 수식으로 설명하려는 자유에너지 원리로 이어졌다. 진행자는 이를 '진공 속의 구형 소'라는 물리학 농담에 빗대며, 지나친 단순화가 설명력을 갖는 순간과 허상이 되는 순간의 경계를 묻는다.

에든버러 대학의 마즈비타 치리무타 교수는 과학적 단순화 자체를 문제 삼지는 않는다. 인간의 작업기억은 몇 개 항목에 불과하고 수명도 유한하므로, 모델을 만들고 일부러 무언가를 덜어내는 것은 불가피하다. 다만 그는 성공적인 과학이 '자연이 단순하다'는 증거가 아니라 '우리가 쓸모 있는 단순화를 잘 만들게 됐다'는 증거일 뿐이라는 입장을 취한다.

가장 강력한 현대의 단순화로는 '마음은 컴퓨터에서 돌아가는 소프트웨어'라는 은유가 지목된다. 요샤 바흐는 소프트웨어가 은유가 아니라 문자 그대로 인과적 실체이며, 돈이 종이나 전자가 아니면서도 세계를 바꾸듯 추상적 패턴도 인과력을 갖는다고 주장한다. 반대편에서는 서로 다른 칩에서 '같은 알고리즘'이 돈다고 말할 때 그 동일성을 식별하는 주체가 결국 인간이라는 점, 돈의 힘도 사회적 합의라는 기반에서 나온다는 점이 반론으로 제시된다.

역사적으로 뇌의 비유는 늘 그 시대 최첨단 기술이었다. 데카르트 시대에는 왕실 정원의 수압 자동인형, 이후에는 전신망과 전화 교환대, 지금은 컴퓨터다. 매컬러와 피츠가 뉴런을 논리 게이트에 빗댔을 때는 그것이 유비임을 알고 있었지만, 시간이 지나며 은유가 굳어져 '뇌는 컴퓨터와 비슷하다'가 아니라 '컴퓨터다'로 바뀌었다는 것이 영상의 진단이다.

마지막으로 영상은 예측과 이해의 긴장을 다룬다. 노벨상 수상자 존 점퍼는 예측·제어·이해를 구분하며, 기계는 예측과 제어를 해주지만 이해의 행위는 여전히 사람 몫이라고 말한다. 진행자는 오늘의 대형 모델이 인류가 쓴 글을 압축해 우리에게 되비추는 거울에 가깝다고 정리하며, 자유에너지 원리 같은 틀도 최종 결론이 아니라 도구로 남겨 두자고 제안한다.

주요 인사이트

• 치리무타는 '진짜인가'보다 '이 모델이 무엇을 하게 해주고 무엇을 어둠 속에 남기는가'를 묻자고 제안한다. 모델 평가의 기준을 진리에서 용도와 사각지대로 옮기는 관점이다.
• 루치아노 플로리디는 '같은 배인가'라는 질문에 절대적 답이 없다고 말한다. 세무 공무원이 묻는지 수집가가 묻는지에 따라 답이 달라지듯, 우주가 계산인가라는 질문도 목적을 정해야 의미가 생긴다는 것이다.
• 촘스키는 모든 것을 설명하는 이론은 아무것도 설명하지 못한다고 지적한다. 왜 이렇게 되는지뿐 아니라 왜 저렇게는 되지 않는지를 답해야 이론이라는 기준이다.
• 지식이 특정 공동체와 장소에 뿌리내린 관점적 산물이라는 주장은, 모든 관점을 뒤섞은 '신의 시점'을 표방하는 언어모델이 왜 신뢰의 주체가 되기 어려운지에 대한 설명으로 이어진다.
• 진행자는 코드 생성 도구의 성능이 놀랍다고 인정하면서도 그것을 지능이 아니라 자동화 기술로 규정한다. 결국 사용자가 얼마나 명확히 지시하고 감독하며 위임할 수 있느냐가 성능의 상한이라는 것이다.

자주 묻는 질문

관련 AI 소식