일리야 수츠케버 인터뷰: 스케일링의 시대 이후 AI가 다시 연구의 시대로 돌아온 이유

핵심 메시지

• 2012~2020년이 연구의 시대, 2020~2025년이 스케일링의 시대였다면 이제 컴퓨팅 자원이 충분히 커진 상태에서 다시 연구의 시대로 돌아왔다는 것이 그의 진단이다.
• 모델이 평가지표에서는 뛰어난데 경제적 영향은 한참 뒤처지는 이유로, 연구자들이 평가지표를 겨냥해 강화학습 환경을 설계하는 관행과 일반화 능력의 부족을 함께 지목했다.
• 가장 근본적인 문제는 모델의 일반화가 사람보다 현저히 나쁘다는 것이며, 표본 효율성과 '가르치기 어려움'은 같은 뿌리일 수 있다고 본다.
• 그는 인간의 감정을 진화가 하드코딩한 가치 함수에 가깝게 보고, 강화학습에서 가치 함수가 앞으로 더 중요해질 것으로 예상한다.
• 인간처럼 학습하는 시스템까지 5~20년을 예상하며, 초지능은 완성된 정신이 아니라 '모든 일을 배울 수 있는' 학습자에 가깝다고 정의한다.

쉽게 이해하기

드워케시 파텔과의 대담에서 일리야 수츠케버는 현재 AI의 가장 이상한 지점부터 짚는다. 모델은 어려운 평가지표를 척척 통과하는데 경제적 영향은 그에 한참 못 미친다. 그는 바이브 코딩 중 버그를 고쳐 달라고 하면 두 번째 버그를 만들고, 그것을 지적하면 다시 첫 번째 버그를 되살리는 식으로 두 상태를 오가는 경험을 예로 든다. 설명 후보는 두 가지다. 강화학습이 모델을 지나치게 한 곳에 집중하게 만들었거나, 연구자들이 출시 때 좋아 보일 평가지표를 겨냥해 학습 환경을 설계하고 있다는 것이다. 진짜 보상 해킹은 평가지표에 매몰된 인간 연구자 쪽이라는 표현이 나온다. 수츠케버는 사전학습과 강화학습의 차이를 두 학생에 비유한다. 한 명은 알고리즘 대회 최고가 되겠다며 1만 시간을 쏟아 모든 문제와 증명 기법을 외웠고, 다른 한 명은 100시간만 하고도 잘했다. 커리어에서 더 잘될 쪽은 두 번째다. 지금 모델은 첫 번째 학생에 가깝고, 대회 문제를 전부 모아 증강까지 해서 학습시키니 다른 영역으로 넘어가지 않는 것도 자연스럽다는 얘기다. 사전학습의 강점은 데이터가 압도적으로 많고 무엇을 넣을지 고민할 필요가 없다는 점이지만, 그것이 더 나은 일반화를 뜻하지는 않는다고 본다.

가치 함수 이야기는 이 인터뷰의 기술적 중심이다. 현재의 강화학습은 긴 궤적을 끝까지 진행해 나온 답을 채점한 뒤 모든 행동에 신호를 주므로, 오래 걸리는 과제일수록 답이 나오기 전까지는 아무 학습도 일어나지 않는다. 가치 함수는 그 기다림을 끊어준다. 체스에서 말을 잃으면 게임을 끝까지 두지 않아도 방금 수가 나빴음을 알 수 있고, 수학이나 프로그래밍에서 천 단계를 진행한 끝에 이 방향이 가망 없다고 판단되면 그 판단을 천 단계 전 선택으로 되돌릴 수 있다. 그는 여기에 감정을 겹쳐 놓는다. 뇌 손상으로 감정 처리 능력을 잃은 사람이 논리 검사는 통과하면서도 양말 고르기에 몇 시간을 쓰고 재무 판단을 크게 그르쳤다는 사례를 들며, 진화가 하드코딩한 감정이 인간 가치 함수를 조율하는 역할을 한다고 본다.

가장 근본적인 문제로 그는 일반화를 꼽는다. 왜 모델은 사람보다 훨씬 많은 데이터를 필요로 하는가, 그리고 데이터 양을 떠나 왜 사람에게 가르치듯 가르치기가 어려운가. 시각이나 운동 능력이라면 진화가 준 사전 지식으로 설명할 수 있지만, 언어·수학·코딩처럼 최근에야 생긴 영역에서도 사람이 강건하게 배운다는 사실은 인간에게 더 나은 학습 원리가 있음을 시사한다고 말한다. 열 시간 만에 운전을 익히는 십대는 검증 가능한 보상 없이도 자신이 얼마나 잘하고 있는지 감지하는데, 그 배경에 강건한 가치 함수가 있다는 설명이다. 다만 그 원리를 어떻게 구현할지에 대해서는 자유롭게 논의되지 않는 아이디어라며 말을 아꼈다.

SSI의 처지를 묻는 질문에는 계산으로 답했다. 30억 달러는 절대 액수로 크고, 다른 회사들의 훨씬 큰 자금은 상당 부분이 추론과 제품 인력, 제품 기능 개발로 간다. 연구에 실제로 남는 몫만 비교하면 격차는 생각보다 작다는 것이다. 그는 알렉스넷이 GPU 두 장, 트랜스포머 논문 실험이 최대 64장으로 이뤄졌다는 사실을 들어, 최고의 시스템을 만들려면 컴퓨팅이 중요하지만 아이디어를 증명하는 데 최대 규모가 필요하지는 않다고 주장한다. 스케일링이 방 안의 산소를 다 빨아들여 모두가 같은 일을 하게 됐고, 그 결과 '아이디어보다 회사가 많은' 상황이 됐다는 진단도 덧붙인다.

후반부는 초지능의 형태와 정렬로 향한다. 그는 AGI라는 용어가 '좁은 AI'에 대한 반작용으로 만들어졌고 사전학습의 성질과 결합해 목표를 과하게 잡았다고 본다. 사람도 아는 것이 적으며 지속 학습으로 메운다는 점에서, 초지능은 모든 직업을 이미 할 줄 아는 완성품이 아니라 무엇이든 빠르게 배울 수 있는 '매우 유능한 열다섯 살'에 가깝다는 것이다. 그런 학습자가 경제 전반에 배치되면 급격한 성장은 가능하지만, 승자독식이 될 것이라는 예상에는 동의하지 않는다. 경쟁은 전문화를 부르고 축적된 학습이 진입장벽이 되기 때문이다. 목표로는 자기개선 AI 대신 '감응적 존재를 아끼도록 견고하게 정렬된 AI'를 제안하고, 가장 강력한 시스템의 힘에 상한을 두는 방안도 검토할 만하다고 말한다. 인간처럼 배우는 시스템까지의 예상은 5~20년이다.

주요 인사이트

• '벤치마크는 좋은데 쓸모는 덜하다'는 현상에 대한 그의 설명은 조직적이다. 평가지표를 겨냥해 강화학습 환경을 만드는 관행이 일반화 부족과 겹치면 지금 보이는 괴리가 상당 부분 설명된다.
• 환경을 더 많이 쌓는 접근과 한 환경에서 배운 것이 다른 곳으로 옮겨가게 만드는 접근은 다른 길이다. 그는 후자, 즉 일반화 원리 자체를 문제로 규정한다.
• 감정을 가치 함수로 보는 관점은 단순함이 강점이라는 주장으로 이어진다. 복잡한 것은 특정 상황에서 강력하지만 단순한 것은 넓은 범위에서 작동한다는 복잡성-강건성 트레이드오프다.
• 컴퓨팅 자원 격차에 대한 그의 반론은 연구용과 제품용 자원을 분리해 보라는 것이다. 아이디어 증명에 필요한 규모와 최고 성능 시스템을 만드는 데 필요한 규모는 다르다.
• 모델 간 다양성이 부족한 이유를 그는 사전학습에서 찾는다. 같은 데이터로 사전학습하니 비슷해지고, 차별화는 강화학습과 사후학습 단계에서 나타나기 시작한다.

자주 묻는 질문

관련 AI 소식