마이클 닐슨 인터뷰: AI가 과학을 자동화하기 어려운 이유와 문명마다 갈라지는 기술 트리

핵심 메시지

• 마이컬슨-몰리 실험은 흔히 에테르의 부재를 증명한 실험으로 소개되지만, 실제로는 여러 에테르 이론을 서로 견주는 실험이었고 일부만 배제했다. 아인슈타인은 훗날 그 논문이 자기 사고에 결정적이지 않았다고 말했다.
• 과학계는 실험이 판별해 주기 수십 년 전에 더 나은 해석 쪽으로 옮겨 가곤 한다. 로런츠의 해석과 특수상대성의 차이는 1940년 무렵 대기 중 뮤온의 붕괴 실험에 이르러서야 실험적으로 갈렸다.
• 검증 루프는 때로 정답 쪽에 적대적이다. 원자량이 모두 정수여야 한다는 프라우트의 가설은 염소의 35.5라는 값 때문에 흔들렸는데, 그 예외의 정체가 동위원소라는 사실이 밝혀지기까지 85년이 걸렸다.
• 알파폴드의 성공은 대부분 수십 년에 걸쳐 X선 회절과 핵자기공명, 저온전자현미경으로 쌓아 올린 단백질 구조 데이터베이스에 기대고 있다. 닐슨은 AI가 맡은 부분이 인상적이지만 전체 투자에서는 작은 조각이었다고 본다.
• 기술과 과학의 트리는 생각보다 훨씬 넓고 대부분의 가지는 끝내 탐색되지 않는다. 그래서 어느 방향을 탐색할지에 대한 선택이 실제로 중요해진다는 것이 닐슨의 입장이다.

쉽게 이해하기

대담의 출발점은 사람들이 과학적 발견에 강화학습의 검증 루프를 닫으려 한다는 흐름이다. 진행자는 그 앞에 과학사의 실제 모습을 놓는다. 마이컬슨과 몰리는 에테르가 없음을 증명하려 한 것이 아니라 여러 에테르 이론을 견주고 이른바 에테르 바람이 있는지 확인하려 했다. 결과는 그중 일부 이론만 배제했고, 마이컬슨 본인은 1920년대까지 실험을 계속하며 세상을 떠날 때까지 에테르를 믿었다. 반증이라는 개념을 적용하기가 생각만큼 간단하지 않다는 이야기다.

이 어려움은 사례마다 반복된다. 천왕성의 궤도가 어긋났을 때 사람들은 보이지 않는 행성을 가정했고 실제로 해왕성을 찾아냈다. 수성의 궤도가 어긋났을 때도 같은 방식으로 벌컨이라는 행성을 가정했지만 그런 행성은 없었고, 답은 일반상대성이론이었다. 1990년대 파이어니어 탐사선이 예상 위치에서 벗어났을 때도 새로운 중력 이론이 거론됐지만 결국 원인은 탐사선 열복사의 미세한 비대칭이었다. 닐슨은 이런 예외가 도처에 널려 있고 99.9%는 사소한 원인으로 밝혀지지만, 어느 쪽인지 사전에 알려 주는 지침은 없다고 말한다.

대화는 알파폴드를 두고 가장 뾰족해진다. 일반상대성이 수성 근일점 이동처럼 예상하지 못한 현상까지 설명해 내는 반면, 1억 개가 넘는 매개변수에 관계를 담아 둔 모델을 같은 의미의 설명이라 할 수 있느냐는 물음이다. 닐슨은 세 갈래의 답을 제시한다. 고전적 기준으로는 설명이 아니라는 보수적 입장, 해석 가능성 연구로 모델 안에서 작은 설명들을 캐낼 수 있다는 입장, 그리고 병합하고 증류하는 새로운 조작이 가능한 새로운 종류의 대상으로 진지하게 받아들이자는 입장이다. 그는 매스매티카 덕분에 100페이지짜리 수식이 포기 대상이 아니라 다룰 수 있는 중간 상태가 된 일을 예로 든다.

진행자는 반례를 든다. 관측 데이터로 모델을 학습시키면 주전원 위에 주전원을 더 얹는 식의 정교화는 잘하겠지만, 국소적으로는 오히려 정확도가 떨어지는 전환, 즉 프톨레마이오스에서 코페르니쿠스로 넘어가는 도약을 경사하강이 해낼 수 있겠느냐는 것이다. 두 사람이 도달한 결론은 서로 다른 편향에서 출발한 연구 프로그램들을 동시에 오래 살려 두는 일의 중요성이다. 병목은 늘 기존 방법이 통하지 않는 곳으로 옮겨 간다. 닐슨은 코드 작성 시간이 3주에서 3시간으로 줄어든 프로그래머들이 이제는 좋은 설계 아이디어에서 막혀 있으며, 그 아이디어가 좋은지 알려 주는 검증 루프는 없다고 지적한다.

후반부의 주제는 기술 트리다. 물리학의 만물 이론이 완성되면 물리학이 끝난다는 인상과 달리, 계산 이론은 1930년대에 뼈대가 놓인 뒤 90년 동안 공개키 암호처럼 깊고 비자명한 아이디어를 계속 내놓았다. 물질의 상도 학교에서 배운 서너 가지에서 초전도체와 초유체, 보스-아인슈타인 응축, 양자 홀 계로 계속 늘어났고 앞으로는 설계의 대상이 되어 갈 것이라고 그는 본다. 수확체감론에는 디저트 뷔페 비유로 답한다. 좋은 디저트부터 없어지는 것은 맞지만 누군가 계속 새 디저트를 채워 넣는다면 이야기가 달라진다는 것이다. 여기서 외계 문명 이야기가 나온다. 트리가 워낙 넓고 경로 의존적이라면 서로 다른 문명은 전혀 다른 기술 묶음에 도달하게 되고, 그 결과 먼 미래까지 교역의 이득이 크게 남는다. 진행자가 그렇다면 우호적인 태도가 훨씬 더 보상받게 된다고 짚자 닐슨은 생각해 본 적 없는 관점이라고 답한다.

주요 인사이트

• AI가 코딩에서 강한 이유가 단위 테스트라는 짧은 검증 루프라면 과학은 그 조건을 만족하지 못한다. 어떤 실험과도 양립하는 이론은 무한히 많고, 그중 하나로 수렴하는 과정은 명료하게 표현하기 어렵다.
• 병목은 사라지지 않고 이동한다. 코드 생산에서 풀려난 프로그래머들이 설계 아이디어에서 막히듯, 한 종류의 병목을 없애는 일이 곧 전체 속도를 결정하지는 않는다.
• 연구 다양성은 취향의 문제가 아니라 제도의 문제다. 같은 추론이 천왕성에서는 해왕성 발견으로, 수성에서는 존재하지 않는 행성으로 이어졌고 사전에는 어느 쪽인지 알 수 없다.
• 거대한 모델을 설명으로 볼 것인가라는 물음에 닐슨은 제3의 선택지를 남겨 둔다. 고전적 설명도, 단순한 도구도 아닌, 병합하고 증류하는 새로운 조작이 정의될 수 있는 새로운 종류의 대상으로 다루자는 것이다.
• 오픈 사이언스의 성과는 논문 공개 자체보다 공적 자금으로 한 연구를 공개해야 하는가를 논쟁 가능한 쟁점으로 만든 데 있다. 물리학과 생물학이 각자 “우리 분야가 더 경쟁적이라서” 정반대 관행을 정당화해 온 사례처럼, 귀속의 경제는 합의로 구성된 것이다.

자주 묻는 질문

관련 AI 소식