야코비안 추측 반례를 AI가 찾아냈다: 90년 난제가 무너진 과정과 남은 2차원 문제

핵심 메시지

• AI가 제시한 다항식 하나로 90년 가까이 미해결이던 야코비안 추측이 3차원에서 무너졌다.
• 이번 결과는 증명이 아니라 반례여서, 간단한 계산만으로 누구나 검증할 수 있다는 점이 파급력을 키웠다.
• 3차원 이상은 변수를 더하면 되므로 함께 해결됐지만, 정작 문제가 처음 출발한 2차원은 여전히 미해결로 남아 있다.
• 반례 후보는 변수 세 개짜리 7차식으로, 일반형으로 쓰면 찾아야 할 계수가 수백 개에 이르는 탐색 공간이었다.
• 출연 교수는 결과의 저자를 사람으로 보는 근거로 '검증과 책임'을 든다. 자신의 이름으로 세상에 내놓고 틀릴 가능성까지 감당하는 주체가 저자라는 것이다.

쉽게 이해하기

인천대 수학과 교수를 초대해 최근 수학계를 술렁이게 한 사건을 다룬다. AI 모델이 내놓은 다항식 하나가 90년 가까이 풀리지 않던 야코비안 추측을 무너뜨렸고, 그 반례는 비교적 간단한 계산으로 검증할 수 있는데도 지금까지 아무도 찾아내지 못했던 것이다.

본론에 들어가기 전, 대담은 함수와 역함수를 자판기에 비유해 설명한다. 버튼을 누르면 정해진 음료가 나오는 것이 함수이고, 나온 음료를 보고 어떤 버튼을 눌렀는지 되짚는 것이 역함수다. 콜라 버튼이 여러 개라면 함수로는 문제가 없지만 역함수는 성립하지 않는다. 역함수가 없다는 것은 되돌릴 수 없다는 뜻이다. 야코비안 추측은 여기서 한 단계 나아간다. 좌표를 다른 좌표로 옮기는 다항 변환에서, 각 점 주변의 작은 넓이가 어떻게 변하는지를 알려주는 값이 모든 곳에서 0이 아닌 상수로 고정돼 있다면 전체에서 역함수가 존재하는가 하는 질문이다. 국소적으로 항상 성립하는 성질이 전체에서도 성립하는가라는, 개념만 보면 그럴듯한 일반화다.

그런데 왜 이렇게 오래 걸렸는가. 출연 교수는 공개된 반례가 변수 세 개짜리 7차식이며, 그런 형태를 일반형으로 쓰면 필요한 계수가 항 하나당 120개, 세 개의 항을 합치면 수백 개에 이른다고 설명한다. 게다가 답을 찾고 나서야 그것이 3변수 7차식이라는 사실을 알 수 있었고, 그전에는 계수가 정수인지 유리수인지조차 정해져 있지 않은 무한한 공간을 뒤져야 했다.

AI의 역할에 대해 교수는 조심스럽게 추측한다. 단순 계산기였다면 풀리지 않았을 것이고, 사람이 다 해놓고 검증만 시켰다면 굳이 그 모델을 쓸 이유가 없었을 것이다. 필요한 보조 정리와 기존 연구 결과를 스스로 끌어와 어떤 기법을 쓸지 판단하는 정도의 역할은 했으리라는 것이다. 한편 반례가 나왔다고 해서 이야기가 끝나는 것도 아니다. 수학에서 반례는 명제를 무너뜨리는 동시에 하나의 명제를 더 세분화된 정확한 명제들로 나누는 과정이라는 설명이 이어진다.

마지막 쟁점은 저자 문제다. 문제를 풀어낸 것은 AI지만 프롬프트를 설계하고 결과를 검증해 자신의 이름으로 발표한 것은 사람이다. 교수는 저자란 결과에 책임을 지는 사람이라고 보며, 이번 결과의 공은 아직 사람에게 돌아간다고 정리한다. 동시에 AI가 준 답을 확인하지 않고 논문에 싣는 태도를 경계하며, 검증은 결국 사용자의 책임이라고 강조한다.

주요 인사이트

• 증명보다 반례가 먼저 나온 것이 이번 사건의 파급력을 키웠다. 증명이었다면 검증에 몇 년이 걸렸겠지만 반례는 그 자리에서 계산해 확인할 수 있다.
• 단순해 보이는 명제일수록 증명이 어려울 수 있다. 대담에서는 서술만 보면 쉬워 보이는 정리가 수백 년 걸려 증명된 사례가 비교로 언급된다.
• AI가 강점을 보이는 쪽은 검증과 확인이 가능한 계산 영역이다. 참임을 증명해야 하는 문제는 아직 시간이 더 걸릴 것이라는 전망이 나온다.
• 탐색 공간을 좁혀 준 것은 사람이었다. 어떤 문제를 어떻게 물어볼지 정하는 일이 결과를 갈랐다는 점에서, 질문 설계가 여전히 인간의 몫으로 남는다.
• 2차원의 반례가 존재한다면 최소 108차 이상이어야 한다는 결과가 이미 알려져 있다. 수학자들이 후보를 하나씩 지워 온 축적 위에 이번 결과가 놓인다.

자주 묻는 질문

관련 AI 소식