지능은 곧 예측이다: 구글 기초 연구 책임자가 MIT 강연에서 말한 생명·계산·의식의 연결고리

핵심 메시지

• 다음 단어 예측 모델을 크게 키우자 수학 문장제까지 풀어내는 것을 보고, 발표자는 좁은 AI와 범용 AI 사이의 경계가 생각만큼 단단하지 않다고 판단했다.
• 뇌가 하는 일도 결국 조건부 예측이다. 움직일 수 없게 된 생물이 뇌를 흡수해버리는 사례처럼, 뇌는 행동으로 미래를 고르기 위해서만 유지되는 값비싼 기관이다.
• 인과는 시간의 화살만으로는 성립하지 않고 '달리 될 수도 있었음'이 필요하며, 그 반사실성은 상태를 바꾸는 동작과 조건 분기, 즉 계산에서 나온다. 그래서 계산은 공학이 아니라 자연과학이다.
• 폰 노이만은 DNA 구조가 밝혀지기 전에 자기복제에 명령 테이프와 보편 구성기가 필요함을 증명했다. 생명은 처음부터 보편 계산을 품고 있었다는 뜻이다.
• 복잡성이 커지는 이유는 돌연변이가 아니라 공생발생, 즉 단순한 것들이 합쳐지는 사건의 누적이며, 이 병렬화가 집단 지능과 의식으로 이어진다.

쉽게 이해하기

MIT 강연에 나선 구글의 기초 연구 그룹 책임자 블레즈 아구에라 이 아르카스는 자신이 겪은 충격에서 이야기를 시작했다. 그는 안드로이드 키보드의 다음 단어 예측처럼 기기 안에서 돌아가는 좁은 모델을 만드는 팀을 이끌었고, 그것이 결코 범용 지능이 될 수 없다고 확신했다. 험프티 다음에 덤프티를 맞히는 통계 모델이 복잡한 수학 문장제의 답을 낼 리 없다고 본 것이다. 그런데 같은 구조를 극단적으로 키웠더니 문장제를 풀고 철학과 수학을 주제로 대화까지 하기 시작했다. 좁은 AI와 범용 AI 사이에 그어둔 선이 흔들린 순간이었다. 그는 여기서 두 갈래 반응이 갈린다고 본다. 하나는 이런 시스템이 진짜 지능일 리 없다고 끝까지 부정하는 쪽, 다른 하나는 '다음 토큰 예측이 지능이라면 지능이란 대체 무엇이며 우리 뇌에서는 무슨 일이 벌어지는가'를 묻는 쪽이다. 그는 후자를 택했다. 챗봇이 웹의 흐릿한 압축본이라는 비판에 대해서도 그는 '흐릿한 압축본'까지는 동의하지만 '그저'라는 말에는 동의하지 않는다고 답한다. 압축과 예측의 본질을 이해하는 일이 지능을 이해하는 통로라는 것이다.

뇌를 예측 기계로 보는 관점은 새롭지 않다. 19세기의 헬름홀츠부터 현대의 칼 프리스턴까지 이어진 계보가 있다. 발표자는 여기에 진화적 논거를 덧붙인다. 어떤 바다 생물은 생애 초기에 헤엄치다가 바위에 붙어 움직이지 않게 되면 자기 뇌를 흡수해버린다. 뇌는 유지비가 비싼 기관이고, 행동으로 환경에 영향을 줄 수 없다면 가질 이유가 없기 때문이다. 결국 뇌의 존재 이유는 '내가 아는 것과 지금 할 수 있는 행동을 놓고 어떤 미래를 고를 것인가'라는 조건부 예측이다. 편모를 한 방향으로 돌려 전진하거나 뒤집어 제자리에서 구르는 1비트 출력만으로 먹이 농도가 높은 쪽으로 헤엄치는 박테리아도 같은 문제를 푼다.

강연의 중심에는 계산에 대한 재정의가 있다. 물리 법칙은 시간 반전에 대해 대칭인데, 그렇다면 'X가 Y를 일으켰다'는 말은 어디서 오는가. 엔트로피는 시간의 화살을 주지만 '달리 될 수도 있었다'는 반사실성까지 주지는 못한다. 그는 온도가 낮아지면 난방을 켜는 온도조절기를 예로 든다. 상태를 바꾸는 동작과 조건 분기, 튜링 완전성에 필요한 바로 그 두 요소가 인과를 만든다. 이 관점에서 계산은 1945년에 발명된 공학 분야가 아니라 인과를 다루는 자연과학이다. 폰 노이만이 DNA 구조가 밝혀지기 전에 자기복제에는 명령 테이프와 그 테이프를 읽는 보편 구성기, 테이프를 복사하는 기계가 필요하다고 논증한 것도 같은 맥락이다. 그는 생물학자는 자신이 컴퓨터 과학자라는 것을, 컴퓨터 과학자는 자신이 생물학자라는 것을 잘 모른다고 농담한다.

생명이 왜 시간이 갈수록 복잡해지는가에 대해 그는 린 마굴리스의 공생발생을 답으로 든다. 미토콘드리아가 원래 자유롭게 헤엄치던 박테리아였다는 그의 발견처럼, 단순한 것들이 합쳐져 복잡한 것이 된다. 돌연변이와 선택만으로는 단순해질 이유와 복잡해질 이유가 같은데, 융합에는 '어떻게 합쳐지는가'라는 정보가 새로 더해지므로 복잡성이 축적된다. 인간 DNA 중 자기 단백질을 만드는 부분이 1.5%뿐이고 나머지 상당수가 다른 복제자들의 흔적이라는 사실, 기억 형성에 관여하는 아크 단백질이 바이러스에서 왔다는 사실도 이 관점을 뒷받침한다. 여러 사람이 거의 동시에 전구를 발명한 것처럼 기술의 진화도 같은 융합 논리를 따른다.

마지막 질문은 병렬 계산이 어떻게 자각하는 마음이 되는가이다. 그의 답은 사회성이다. 여러 주체가 협력하려면 서로를 모형화해야 하고, 남을 모형화하려면 먼저 자신을 모형화해야 한다. 상대의 예측에 대한 나의 예측이 무한히 겹치는 거울의 방이 만들어지는데, 그는 이것이 의식이 존재하는 기능적 이유라고 본다. 의식은 덤으로 딸려온 부산물이 아니라 협력에 반드시 필요한 자기 모형이라는 것이다. 그는 각자 한쪽 팔다리만 통제하면서도 함께 운전하고 자판을 치는 결합쌍둥이, 좌우 뇌가 분리된 뒤에도 아무 이상을 느끼지 못한다고 답하는 분리뇌 환자 사례를 들며, 우리 역시 통합된 하나가 아니라 호흡이 잘 맞는 부분들의 팀이라고 결론짓는다.

주요 인사이트

• 지능을 예측으로 보면 대형 언어 모델과 박테리아의 주화성이 같은 문제의 다른 규모가 된다. 규모를 키우자 능력이 나타난 것은 마법 가루가 없었기 때문이라는 설명이 자연스러워진다.
• 계산을 인과의 자연과학으로 보는 관점은 '왜 우리 머릿속에 컴퓨터가 들어 있는가'라는 질문을 해체한다. 뇌만 계산하는 것이 아니라 세포부터가 계산하는 존재였기 때문이다.
• 복잡성의 원천을 융합에서 찾으면 진화는 가지가 갈라지기만 하는 나무가 아니라 합쳐지기도 하는 그래프가 된다. 이 시각은 기술 발명이 왜 여러 사람에게 동시에 일어나는지도 설명한다.
• 의식을 협력의 전제 조건으로 보는 주장은 '행동은 같지만 의식만 없는 존재'라는 사고 실험을 무력화한다. 자기 모형 없이는 애초에 그 행동이 나올 수 없다는 것이다.
• 추론 모델 내부에서 서로 다른 관점의 목소리가 다투며 성능을 끌어올린다는 발견은, 인간이 혼자 고민할 때 벌어지는 일과 구조가 같다는 해석으로 이어진다.

자주 묻는 질문

관련 AI 소식