뇌는 컴퓨터인가: 계산주의 신경과학의 한계와 LLM 이해 논쟁을 짚은 철학자 인터뷰

핵심 메시지

• 과학의 추상화와 이상화는 계산을 가능하게 하는 도구이지만, 무엇을 잡음으로 버릴지는 연구자의 결정이며 그 결정 자체가 결과를 만들어낸다.
• 19세기 말 반사 이론은 단순하고 우아한 설명이 수십 년간 신경생리학 전체를 잘못된 길로 이끈 실제 사례다.
• 계산주의는 뇌를 연구하는 유용한 렌즈이지만, 그 성공을 근거로 "뇌가 곧 컴퓨터"라는 존재론적 결론을 내리는 것은 정당하지 않다.
• 치리무타는 지식이 관찰이 아니라 개입과 조작을 통해 형성된다고 보는 '햅틱 실재론'을 제안한다.
• 언어 능력만 떼어내 신체 없이 구현한 시스템이 인간과 같은 방식으로 이해할 수 있다는 가정에 대해 그는 회의적이다.

쉽게 이해하기

머신러닝 스트리트 토크는 『The Brain Abstracted』의 저자이자 신경과학 철학을 연구하는 마즈비타 치리무타를 초대해, 신경과학의 실험 결과에서 마음에 대한 결론을 어디까지 끌어낼 수 있는지 물었다. 그는 실험실에서 얻은 데이터 자체에는 문제가 없지만, 그 결과를 실험실 밖 실제 환경의 인지로 일반화하는 지점에서 문제가 생긴다고 지적한다. 동물이 환경을 헤쳐 나가는 방식에는 실험 설계가 걷어낸 복잡성과 상호작용성이 핵심적으로 작동하기 때문이다.

그는 과학이 사용하는 두 가지 단순화를 구분한다. 추상화는 마찰처럼 실제로 존재하는 세부를 무시하는 것이고, 이상화는 무한한 개체군처럼 거짓임을 알면서도 계산을 쉽게 만들기 위해 부여하는 속성이다. 문제는 데이터에서 무엇이 신호이고 무엇이 잡음인지 가르는 것이 자연이 알려주는 사실이 아니라 연구자의 판단이라는 점이다. 지금 나에게 무관해 보이는 규칙성이 다른 연구자에게는, 혹은 그 시스템이 실제로 작동하는 방식에는 결정적일 수 있다.

치리무타는 AI 연구자들 사이에 널리 퍼진 전제를 플라톤주의라고 부른다. 겉으로 보이는 세계는 지저분하고 다루기 어렵지만 그 아래에는 깔끔하고 수학적으로 분해 가능한 실재가 있다는 생각이다. 그는 이것이 형상의 세계와 생성의 세계를 나눈 수천 년 된 구도와 같다고 말하며, 대안으로 훨씬 소박한 설명을 내놓는다. 우리가 추상화를 하는 이유는 실재의 더 높은 층위에 도달하기 위해서가 아니라, 유한한 인지 능력을 가진 존재가 복잡성을 감당할 방법이 그것뿐이기 때문이라는 것이다.

역사적 경고로 그는 반사 이론을 든다. 파블로프로 익숙한 이 이론은 뇌의 모든 기능을 감각-운동 고리의 변형으로 설명하려 했고, 셰링턴 같은 저명한 생리학자조차 단순 반사가 실제로는 존재하지 않는 이상화임을 인정하면서도 그것을 신경생리학의 열쇠로 삼았다. 결국 처음 기대했던 만큼의 데이터를 설명하지 못했고, 2차 세계대전 전후 계산 이론이라는 또 다른 깔끔한 설명 틀이 등장하고서야 자리를 내주었다. 그는 계산주의 역시 자기만의 이상화 도구 상자를 함께 들여왔다고 본다.

인터뷰 후반은 신체성과 유한성으로 이어진다. 그는 신경세포의 신호 전달이 몸 전체에서 일어나는 세포 신호의 연장선에 있다면, 살아 있지 않은 기계가 같은 기능을 갖는다는 주장은 더 무리한 요구가 된다고 말한다. 하이데거를 인용하며, 어디에도 위치하지 않고 신체도 없는 채로 세상의 정보를 흡수하기만 하는 존재가 인간이 아는 방식의 지식을 가질 수 있다는 발상은 인간이 유한한 앎의 주체라는 사실을 인정하지 않는 태도라고 짚는다.

주요 인사이트

• 신호와 잡음을 가르는 작업은 데이터에서 패턴을 읽어내는 것이 아니라 어느 정도는 패턴을 만들어내는 일이기도 하다는 지적은, 벤치마크와 전처리 설계를 다루는 실무자에게도 그대로 적용된다.
• 블랙박스로 다루는 태도 자체는 과학에서 정상적이지만, 입력과 출력이 비슷하다는 이유로 사람과 기계를 같은 부류로 묶는 것은 철학적 비약이라는 것이 그의 구분이다.
• 퍼트넘의 돌 논변처럼, 물리 동역학을 계산 형식과 대응시키는 것만으로 계산이라 부른다면 돌이든 위장이든 무엇이든 계산을 구현하는 셈이 되어 뇌만 특별하다고 말할 근거가 사라진다.
• 계산은 수학적 형식이고 인과력을 갖는 것은 구체적 물리 시스템이라는 구분에서, 인지라는 물리 세계의 현상을 왜 굳이 비인과적인 것으로 설명해야 하는지에 대한 정당화가 필요해진다.
• 인공 신경망이 막대한 에너지를 쓰는 것과 달리 생물학적 인지는 훨씬 제한된 에너지 예산으로 더 많은 일을 하며, 이 경제성 자체가 생물학적 구조를 잉여로 볼 수 없게 만드는 근거가 된다.

자주 묻는 질문

관련 AI 소식