표기 지능이란 무엇인가: 좋은 기호의 네 가지 조건과 딥러닝으로 만드는 새 표기법

핵심 메시지

• 한 공간 안에 있는 컴퓨터보다 사람이 적어 둔 기호·메모·지도 같은 표기의 수가 훨씬 많고, 그 영향력은 기계 못지않게 크다.
• 좋은 표기법은 추상화, 암시성, 자연 변환, 그리고 시각적 직관을 활용하는 그래픽성이라는 속성을 갖는다.
• 긴 덧셈이나 좌표평면처럼, 머리와 종이에 적은 기호가 합쳐진 시스템이 사람을 더 똑똑하게 만든다.
• 딥러닝 모델을 시뮬레이터로 보면 인간의 지각에 얽매이지 않은 완전히 새로운 표기법도 만들어 낼 수 있다.

쉽게 이해하기

라이너스 리는 강연장 안에 수천 대의 컴퓨터가 있지만, 사람들이 적어 둔 기호와 그림, 표지판, 노트 같은 '표기'의 수는 그보다 백 배에서 천 배는 많다는 관찰로 이야기를 연다. 평소엔 의식하지 못하지만, 무언가를 적어 두는 방식이 지능을 키우는 힘은 우리가 만든 기계 못지않게 크다는 것이다. 그는 이 생각을 '표기 지능(notational intelligence)'이라 부른다.

대표적인 예가 긴 덧셈이다. 217과 868을 머릿속으로 더하긴 어렵지만, 자릿수를 맞춰 칠판에 적으면 쉽게 풀린다. 이때 더 똑똑해진 것은 뇌만도 아니고 칠판이 계산기인 것도 아니며, 정보를 적어 두는 방식 덕분에 뇌와 기호가 합쳐진 시스템 전체가 더 똑똑해졌다는 설명이다.

그는 좋은 표기법의 속성을 네 가지로 정리한다. 하나의 기호가 비슷한 성질을 가진 집합 전체를 대신하는 '추상화', 모양이 닮으면 성질도 닮았음을 암시하는 '암시성'과 기호 조작이 의미 있는 변형으로 이어지는 '자연 변환', 그리고 평면 위에서 옮기고 키우고 복사할 수 있어 시각적 직관을 활용하는 '그래픽성'이다. 미적분의 라이프니츠 표기가 뉴턴 표기보다 더 널리 쓰이는 이유도 더 암시적이고 조작하기 좋기 때문이라고 말한다.

흥미롭게도 우리가 당연하게 여기는 화살표 기호조차 기록상 약 300년 전인 1737년에야 처음 등장했고, 그전에는 무언가를 가리키려면 손 그림을 그려야 했다. 좌표평면이나 화살표처럼 기본적인 기호도 누군가 발명해야 했고, 그 발명이 다른 표기를 훨씬 쉽게 다루도록 해 준다는 것이다. 프로그래밍 언어도 변수·함수의 추상화, 리팩터링 같은 자연 변환, 들여쓰기·구문 강조 같은 그래픽성을 모두 갖춘 표기법이다.

마지막으로 그는 2026년에는 화살표를 손으로 발명하는 대신 딥러닝으로 새 표기법을 만들 수 있다고 제안한다. 입력 영역과 매체의 제약을 정한 뒤, 생성기와 해독기를 그래디언트 디센트로 함께 학습시키는 토이 모델을 소개한다. 1024개의 기호로 된 알파벳을 32×32 회색조 이미지 공간에서 학습시키되, 크기·회전·색에 대한 불변성을 강제해 인간 지각과 무관한 '외계의' 표기 체계를 만들어 낸다.

주요 인사이트

• 지능은 뇌 안에만 있는 것이 아니라, 적어 두는 방식과 결합된 시스템 전체에서 나온다는 관점은 도구와 사고의 관계를 다시 보게 한다.
• 표기법의 좋고 나쁨은 취향이 아니라 추상화·암시성·자연 변환·그래픽성이라는 분석 가능한 속성으로 따질 수 있다.
• 모델 내부에는 우리가 아직 이름 붙이지 못한 특징들이 있고, 새 표기법을 기계적으로 만들 수 있다면 그런 개념을 표현할 새로운 방식도 대량 생산할 수 있다.
• 모델을 우리 세계만 흉내 내는 도구가 아니라 '무엇이든 시뮬레이션하는 실험실'로 보면, 아직 상상하지 못한 개념과 언어를 탐구하는 길이 열린다.

자주 묻는 질문

관련 AI 소식