AI 벤치마크를 믿어도 되나 — 스탠퍼드 HAI 산미 코예조가 제시한 AI 측정 타당도 프레임워크

핵심 메시지

• 벤치마크는 원래 분야 내부의 모델 비교를 위해 설계됐지만, 지금은 정책 결정과 수천억 달러 규모 투자 판단의 근거로 쓰이고 있다. 코예조는 이 간극을 측정의 위기라고 표현했다.
• 핵심은 점수가 아니라 주장이다. '이 모델이 대학원 수준 객관식 문제를 잘 푼다'와 '이 모델이 대학원 수준 추론에 도달했다'는 전혀 다른 주장이며, 후자를 뒷받침할 증거는 부족하다.
• 타당도는 내용·준거·구성·외적·결과 다섯 갈래로 나눠 점검할 수 있고, 각 갈래마다 주장에 맞는 증거를 따로 요구해야 한다.
• 심리측정학의 문항반응이론을 도입하면 모델 능력과 문항 난이도를 분리할 수 있어, 서로 다른 문제를 푼 모델도 비교할 수 있고 질문 수를 최대 80%까지 줄일 수 있다.
• 언론이 말하는 '모델 붕괴'는 정의가 논문마다 제각각이라는 문제를 안고 있으며, 실제로 우려할 지점은 평균 성능 저하보다 소수 집단이 점점 무시되는 현상이다.

쉽게 이해하기

스탠퍼드 HAI 세미나에 선 산미 코예조 교수는 AI 분야가 벤치마크를 통해 성장해 온 역사부터 짚었다. 반복 가능하고 확장 가능한 측정 지표가 주어지면 이 분야는 그 숫자를 밀어 올리는 데 누구보다 뛰어나며, 목표와 지표가 잘 맞을 때는 실제로 의미 있는 진전이 나왔다. 문제는 둘이 어긋날 때 생긴다.

그는 벤치마크의 통계적 성질 자체는 의외로 견고하다고 인정한다. 조건을 바꿔 다시 측정해도 결과가 비슷하게 유지되고, 이미지넷을 크게 손봐도 모델 간 우열 순위는 10년 넘게 안정적으로 유지된다는 연구가 있다. 그럼에도 위기라고 부르는 이유는 벤치마크가 감당하도록 요구받는 역할이 달라졌기 때문이다. 안전성 평가와 규제 판단, 의료·법률 배치 결정, 그리고 거액의 자원 배분이 벤치마크 점수에 기대고 있다.

코예조는 GPQA를 사례로 삼는다. 대학원 수준 과학 문제로 구성된 이 벤치마크에서 전문가는 60~70%, 비전문가는 34% 정도를 맞혔고 당시 GPT-4는 40%였다. 여기서 '모델이 이 유형의 객관식 문제를 잘 푼다'는 주장은 측정 대상과 직결되므로 무리가 없다. 반면 '대학원 수준 추론에 도달했다'는 주장은 관찰할 수 없는 구성 개념에 대한 것이라 별도의 증거 체계가 필요하다.

이 구분을 체계화하기 위해 그는 1950년대 심리학의 타당도 이론을 끌어온다. 당시 심리검사들은 서로 같은 것을 잰다고 주장하면서 상충하는 결과를 냈고, 그 결과가 개인의 삶을 좌우했다. 크론바크와 밀이 정립한 관점의 핵심은 검사 절차가 아니라 그 결과로부터 끌어내는 추론을 검증해야 한다는 것이었다. 코예조는 AI가 지금 그와 유사한, 어쩌면 더 높은 판돈이 걸린 상황에 있다고 본다.

두 번째 축은 도구다. 지금의 표준 관행은 정답률 평균이지만, 이는 모든 모델이 같은 문제를 풀어야 성립하고 에이전트 평가나 레드티밍처럼 경로가 갈리는 상황에서는 비교가 무너진다. 평가 비용도 수십만 달러 규모로 커졌다. 코예조 팀은 문항반응이론으로 모델 능력과 문항 난이도를 분리해 17만 개가 넘는 문항과 172개 모델을 분석했고, 겹치지 않는 데이터에서도 유의미한 비교가 가능함을 보였다.

마지막 축은 개입의 효과를 예측하는 일이다. 실험 자체가 너무 비싸 학계가 반복 수행할 수 없기에, 물리과학처럼 한 번 만들어진 결과물을 사후 분석하는 방식이 필요해졌다. 그는 이 관점으로 '모델 붕괴' 논의를 재검토해, 같은 논문 안에서도 정의가 두세 개씩 충돌하며 대부분의 연구가 합성 데이터만으로 학습하는 비현실적 설정을 가정한다는 점을 지적했다.

주요 인사이트

• 벤치마크가 무너진 것이 아니라 벤치마크에 요구하는 일이 달라졌다는 진단이 이 강연의 출발점이다. 같은 도구를 더 무거운 결정에 쓰려면 그만큼 강한 증거 체계가 따라붙어야 한다.
• 구성 타당도 관점에서 보면 GPQA 고득점을 추론 능력의 증거로 삼기 어려운 이유가 분명해진다. 암기만으로도 같은 결과를 설명할 수 있는 한, 다른 설명을 배제하지 못한 셈이기 때문이다.
• 결과 타당도는 특히 실무적이다. 이해관계자가 결과를 과잉 일반화한다는 사실이 이미 관찰된 이상, 주장을 어떻게 표현하고 전달할지도 측정 설계의 일부가 된다.
• 문항반응이론의 실익은 정확도보다 비용에서 먼저 나타난다. 능동 학습과 결합하면 일부 벤치마크에서 질문 수를 80%까지 줄이면서도 능력 추정치를 유지할 수 있었다.
• 심리측정학을 그대로 가져오는 데는 주의가 필요하다. 사람은 문장 중간의 무작위 대문자에 흔들리지 않지만 모델은 답이 달라질 수 있어, 인간을 전제로 만들어진 매끄러움 가정이 그대로 옮겨가지 않는다.
• 현재 벤치마크의 90% 이상이 객관식이라는 점 자체가 구성 타당도의 약점이다. 확장성 때문에 선택된 형식이 측정 가능한 범위를 좁히고 있다.

자주 묻는 질문

관련 AI 소식