테런스 타오가 말하는 AI와 수학 연구: 아이디어 과잉과 검증 병목, 그리고 협업의 미래

핵심 메시지

• AI가 아이디어 생성 비용을 거의 0으로 낮추면서, 과학의 병목은 쏟아지는 가설을 검증하고 평가하는 쪽으로 옮겨갔다.
• AI 도움으로 풀린 에르되시 문제는 1100여 개 중 50여 개인데, 대부분 문헌이 거의 없던 문제였고 지금은 순수 AI 해법이 멈춘 정체 구간이다.
• 체계적으로 측정하면 개별 문제에 대한 AI의 성공률은 1~2% 수준이며, 성공 사례만 공유되는 탓에 실제보다 훨씬 대단해 보인다.
• AI는 넓이에, 인간 전문가는 깊이에 강하므로 상호 보완적이며, 과학의 작업 방식 자체를 넓이에 맞게 다시 설계해야 한다.
• 타오 본인의 생산성 향상은 문헌 조사·수치·그림 같은 부수 작업에 집중돼 있고, 가장 어려운 핵심 증명은 여전히 펜과 종이로 한다.

쉽게 이해하기

대담은 케플러가 행성 운동 법칙을 찾아낸 과정에서 출발한다. 케플러는 플라톤 다면체로 행성 궤도의 간격을 설명하려던 아름다운 이론을 오래 붙들었지만 데이터와 어긋났고, 결국 튀코 브라헤가 수십 년간 맨눈으로 모은 관측 자료를 파고들어 궤도가 타원임을 알아냈다. 진행자는 이를 '온도를 높인 언어모델'에 비유한다. 무작위에 가까운 시도를 20년간 반복해도, 검증할 데이터가 있으면 그중 하나가 진짜 법칙이 될 수 있다는 것이다.

타오는 그 비유를 받아들이면서도 무게중심을 옮긴다. 과학은 문제 발굴, 데이터 수집, 가설 제시, 검증, 서술까지 여러 단계로 이뤄지는데 우리가 기려온 것은 '유레카' 순간뿐이었다는 것이다. 그는 AI가 인터넷이 통신 비용을 낮춘 것처럼 아이디어 생성 비용을 거의 0으로 만들었지만, 그 자체로 풍요가 생기지는 않는다고 본다. 이미 여러 학술지가 AI로 생성된 투고에 파묻히고 있고, 사람 심사자가 감당할 수 있는 규모를 넘어섰다.

수학에서의 실제 성적표는 냉정하다. AI 도움으로 풀린 에르되시 문제는 1100여 개 중 50여 개이고, 순수 AI가 한 번에 푸는 사례는 한동안 이어지다 멈췄다. 풀린 문제들은 대부분 에르되시가 한두 번 언급하고 아무도 제대로 쓰지 않은, 문헌이 거의 없는 문제였다. 대규모로 훑어보면 개별 문제 성공률은 1~2%에 그치는데, 소셜미디어에는 성공 사례만 올라오기 때문에 훨씬 대단해 보인다. 타오는 AI 기업의 자체 발표에만 기대지 말고 표준화된 문제 집합으로 실패까지 측정해야 한다고 말한다.

그가 짚는 현재 모델의 약점은 '부분 진전'이다. 타오는 AI를 어둠 속 절벽지대에 풀어놓은 점프 로봇에 비유한다. 사람보다 높이 뛰지만, 중간 손잡이를 잡고 버티며 다음 도약의 발판을 만드는 누적 과정은 못 한다는 것이다. 세션을 새로 열면 방금 한 일을 잊고, 관련 문제에 쓸 새 기량도 남지 않는다. 그래서 그는 이것을 지능이라기보다 영리함에 가깝다고 본다. 반대로 형식 언어 Lean으로 쓰인 증명은 보조정리 하나하나를 떼어내 검토할 수 있어, 사람이 이해할 수 없는 증명이 나오더라도 사후 분석의 여지가 크다고 말한다.

본인의 생산성에 대해서는 솔직하다. 지금 형태의 논문을 AI 없이 쓰면 다섯 배는 걸리겠지만 애초에 그런 논문을 쓰지 않았을 것이고, 2020년식 논문을 다시 쓴다면 시간이 크게 줄지 않는다는 것이다. 논문이 더 풍부해졌을 뿐 더 깊어지지는 않았다는 평가다. 그는 10년 안에 지금 수학 전공자들이 시간을 쏟는 일 상당수를 AI가 대신하겠지만, 그때 우리는 그 일이 핵심이 아니었음을 알게 될 것이라고 본다. 진로를 묻는 질문에는 전통 교육의 가치를 인정하면서도, Lean 같은 도구 덕에 고등학생도 실제 연구에 기여할 수 있는 비전통적 경로가 열렸다며 적응력을 강조했다.

주요 인사이트

• 무작위에 가까운 탐색이 과학이 되려면 브라헤의 관측 자료 같은 검증 가능한 데이터가 반드시 함께 있어야 한다. 없으면 그냥 쓰레기가 쌓인다.
• 어떤 아이디어가 좋은지는 미래와 문화에 달려 있다. 십진법이 로마 숫자보다 나은 이유가 '모두가 쓰기 때문'인 것처럼, 맥락 없이는 점수를 매길 수 없어 강화학습으로 다루기 어렵다.
• 설득과 서술도 과학의 일부다. 다윈은 수식 없이 평이한 영어로 썼고 뉴턴은 라틴어로 새 수학까지 만들어 썼는데, 이 차이가 수용 속도를 갈랐다.
• 수학이 실험과학으로 확장될 수 있다. 두 가지 풀이 전략 중 어느 쪽이 나은지 문제 1000개에 돌려보는 대규모 실험이 이제 가능해졌다.
• 지나친 최적화는 세렌디피티를 없앤다. 도서관에서 옆 논문을 우연히 발견하던 비효율이 사라지면 얻지 못하는 것도 생긴다.

자주 묻는 질문

관련 AI 소식