테스트타임 컴퓨트가 바꾼 AI 평가: 오픈AI 노엄 브라운이 짚은 벤치마크의 함정

핵심 메시지

• 새 모델이 나올 때 공개되는 벤치마크 표는 모델이 얼마나 오래 생각했는지를 통제하지 않아 실제 성능 차이를 가린다.
• 최신 모델 5.5는 이전 모델보다 사고가 효율적이라, 같은 사고량으로 맞추면 표에 찍힌 몇 퍼센트포인트보다 훨씬 큰 차이가 난다.
• 잘 설계된 스캐폴드를 붙이면 요즘 모델은 몇 주씩 사고를 이어가며 성능이 계속 올라, '성능이 정체될 때까지 돌린다'는 평가 방식이 성립하지 않는다.
• 각 연구소의 안전성 평가 체계에는 추론 예산 개념이 빠져 있어, 돈을 더 쓴 모델이 얼마나 위험해지는지를 측정하지 못한다.
• 브라운은 최고 성능을 끌어내는 데 대규모 추론 시간이 필요한 만큼, 하룻밤 사이의 지능 폭발보다는 점진적인 가속이 이어질 것으로 본다.

쉽게 이해하기

오픈AI의 연구자 노엄 브라운은 최신 모델 5.5가 공개된 직후 몇 시간 동안 "별로 나아지지 않았다"는 반응이 나온 장면에서 이야기를 시작한다. 그는 회의론의 출처가 모델 자체가 아니라 발표 자료에 실리는 벤치마크 표라고 말한다. 가로축에 벤치마크, 세로축에 모델 점수를 늘어놓는 이 표는 각 모델이 답을 내기까지 얼마나 오래 생각했는지를 전혀 통제하지 않는다.

브라운의 설명에 따르면 5.5는 이전 모델보다 훨씬 짧게 생각하고도 같은 문제를 푼다. 사고량을 같은 기준으로 맞추면 격차가 뚜렷해지는데, 표에서는 몇 퍼센트포인트 차이로만 보인다. "그럼 성능이 정체될 때까지 생각시키면 되지 않나"라는 반문이 뒤따르지만, 그는 정체 지점이 이제 너무 멀어졌다고 답한다. 사이버 보안 같은 영역에서는 1억 토큰을 써도 성능이 여전히 오르고 있다는 것이다.

그래서 그가 제안하는 대안은 두 가지다. 벤치마크마다 토큰·비용·시간 같은 예산 상한을 정해 놓고 재거나, 아예 성능을 추론 예산의 함수로 그린 그래프를 함께 공개하라는 것이다. 그는 적은 예산에서 측정한 값으로 훨씬 큰 예산의 성능을 예측하는 연구가 아직 비어 있다며, 학계가 파고들 만한 주제라고 덧붙인다. 같은 맥락에서 모델을 다섯 번 돌려 가장 좋은 답을 고르는 식의 '벤치마크 맥싱'도 지적한다. 점수는 올라가지만 소모한 연산을 통제하면 실제 개선이 아닐 수 있기 때문이다.

가장 곤란한 지점은 안전성 평가다. 각 연구소는 모델 출시 전에 위험한 능력이 있는지 점검하는 체계를 두고 있지만, 그 틀은 추론 시간을 늘려도 별 차이가 없던 시절에 만들어졌다. 지금은 모델의 능력이 투입한 돈의 함수여서, 1만 달러를 쓴 모델과 1000만 달러를 쓴 모델은 다른 존재에 가깝다. 브라운은 어느 예산에서 평가해야 하는지를 현행 정책이 사실상 다루지 않고 있으며, 이 질문을 없는 셈 치는 태도가 문제라고 말한다.

모델이 몇 주씩 돌아야 진짜 실력이 드러나는데 출시 주기는 두세 달이라는 점도 이 문제를 키운다. 그는 이미 공개된 모델에도 아무도 끝까지 밀어보지 않은 잠재력이 남아 있다고 본다. 오픈AI가 내부 모델로 에르되시 단위 거리 추측을 반증한 뒤, 사람들이 스캐폴드를 잘 짜자 5.5로도 같은 결론에 도달할 수 있다는 사실이 드러난 사례가 그렇다. 다만 모델은 알고리즘 최적화에는 뛰어나도 '무엇을 연구할지 고르는 감각'은 아직 약하고, 최고 성능을 뽑아내는 데 시간이 필요하다는 점 자체가 병목이 되기 때문에 그는 순식간의 이륙 시나리오에는 회의적이다.

주요 인사이트

• 모델의 능력이 투입 비용의 함수가 된 세상에서는 "이 모델이 무엇을 할 수 있나"라는 질문이 예산을 명시하지 않으면 성립하지 않는다.
• 벤치마크 표가 틀렸다는 것을 모두가 알면서도 관행 때문에 계속 그 형식으로 발표하는, 브라운의 표현으로 '나쁜 균형' 상태가 이어지고 있다.
• 이미 공개된 모델에도 탐색되지 않은 능력이 남아 있다. 수십만 달러 규모의 연산을 한 문제에 쏟아본 사람이 거의 없기 때문이다.
• 사실 암기형 질문은 아무리 오래 생각해도 나아지지 않고, 스도쿠처럼 무작정 시도해도 언젠가 풀리는 문제는 무한히 나아진다. 실제 벤치마크는 그 사이 어딘가에 흩어져 있다.
• 모델이 연구를 100배 빠르게 만들어도 빨라지지 않는 작업이 새로운 병목이 되기 때문에, 재귀적 자기 개선은 폭발보다 점진적 형태에 가깝다.

자주 묻는 질문

관련 AI 소식