AI 인지 부채와 이해의 병목: 모델 선택, 서브에이전트 분업, 평가 지표를 다시 보는 법

핵심 메시지

• 최상위 모델 하나에 모든 일을 맡기기보다, 판단·리뷰·종합은 메인 루프에 남기고 구현은 더 작은 모델에 넘기는 방식이 다시 부상하고 있다.
• 출력물은 빨라졌지만 사람이 과정을 이해하지 못하면 인지 부채가 쌓인다. 변경 내역 보고서와 퀴즈, 구현 노트가 그 부채를 갚는 장치로 쓰이고 있다.
• 벤치마크 지수는 정형화된 시험 성적이라 해킹될 여지가 있고, 사람의 선호도를 모으는 아레나 지표 역시 라마 4 사례처럼 조작될 수 있다.
• 평가 자체가 큰 사업이 됐다. 빅테크가 데이터셋과 평가를 사들이고 있으며, 오디오와 로보틱스로 갈수록 평가는 훨씬 어려워진다.
• 하위 레이어를 어디까지 이해하고 어디부터 블랙박스로 둘지 선을 긋는 균형 감각이 새로운 엔지니어링 역량이 되고 있다.

쉽게 이해하기

출연자들은 새로 돌아온 프런티어 모델을 써 본 소감부터 꺼낸다. '두 배, 세 배 좋아졌다'는 체감은 아니지만, 다른 모델로는 몇 시간씩 헤매던 버그를 리뷰만으로 짚어 내는 장면이 있었다고 한다. 문제는 속도가 아니라 비용과 인지였다. 에이전트를 여러 개 띄우자 30분 만에 다섯 시간치 사용량이 소진됐고, 리뷰 결과를 정확히 따라가는 일이 오히려 느려서 이해가 작업을 따라잡지 못하는 상황이 생겼다.

그래서 다시 등장한 것이 모델 선택을 위임하는 방식이다. 소개된 사례에서는 '코딩 작업마다 적절한 저성능 모델을 스스로 판단해 고르고 서브에이전트에서 실행하라'고 지시했더니, 큰 일은 중간 모델이, 잔일은 더 작은 모델이 처리했다. 이유는 비용과 효율이고, 구현 작업에 최상급 모델이 필요한 경우는 드물며 판단·리뷰·종합만 메인 루프에 남긴다는 설명이다. 진행자들은 이것이 몇 달 전 '판단은 큰 모델, 코딩은 작은 모델'이라던 조언과 정확히 같은 형태라고 지적한다. 모델이 싸지면 다시 최상급 모델로 몰렸다가, 비싸지면 또 분업으로 돌아오는 주기가 반복되고 있다는 것이다.

대화의 중심은 인지 부채로 옮겨 간다. '지도는 영토가 아니다'라는 표현을 빌려, 지도와 영토 사이의 틈을 '미지의 것들'이라 부르고 모델이 그 틈을 만나면 사용자의 의도를 추측해 결정한다는 관점이 소개된다. 시킬 일이 많아질수록 모델이 틀릴 수 있는 미지의 것도 늘어나므로, 작업 품질은 결국 사람이 그 미지의 것들을 얼마나 명확히 하느냐에 묶인다. 구현 전에는 사각지대를 함께 찾고 모델에게 역으로 인터뷰를 요청하며, 구현 중에는 노트를 남기고, 구현 후에는 변경 사항을 맥락·직관과 함께 정리한 보고서를 만들되 맨 아래에 스스로 통과해야 할 퀴즈를 넣는 식이다.

후반부는 평가 지표를 다룬다. 벤치마크를 모아 점수를 매기는 지수는 시험이 다양하고 계속 갱신되어 쓸 만하지만, 문제와 정답이 이미 알려져 있어 해킹될 여지가 있다. 반대로 사람의 선호도를 모아 순위를 매기는 아레나는 정답을 매기기 어려운 디자인이나 발표 자료 같은 작업에 참고가 되지만, 라마 4 공개 당시 여러 변형을 올려 두고 가장 점수가 좋은 것만 남긴 사례가 알려지면서 신뢰가 흔들렸다. 사람의 선호도 역시 하나의 벤치마크이고 튜닝으로 공략될 수 있다는 교훈이었다.

마지막은 경계 짓기다. 우리가 CPU 어셈블러의 최적화 여부를 더는 묻지 않듯, 다음 세대는 지금의 하위 레이어를 그냥 밀어 넣고 위 레이어에서 판단할 수 있다는 이야기가 나온다. 한 출연자는 결과를 그대로 믿는 대신 같은 모델에게 '이게 진짜 맞느냐'를 세 번 되묻는 게이트를 만들어 두었다고 소개한다. 또 도메인 특화라면 훨씬 적은 노력으로도 가능하다는 관점, 오디오와 로보틱스에서는 데이터도 평가도 훨씬 어려워 범용 보상 모델에 관심이 몰린다는 이야기로 마무리된다.

주요 인사이트

• 'AI가 알아서 판단하게 두라'는 조언은 새 모델이 나올 때마다 반복되는 패턴이다. 가격이 부담되면 판단과 구현을 분리하고, 저렴해지면 다시 최상급 모델로 몰린다.
• 인지 부채를 줄이는 가장 실용적인 프롬프트는 결과물 요약이 아니라 검증 장치다. 변경 사항을 맥락과 직관까지 담은 보고서로 만들고, 맨 아래에 사용자가 통과해야 할 퀴즈를 붙이는 식이다.
• 빠른 요약은 이해를 대체하지 못한다. 영상 요약을 먼저 보고 본편을 넘기는 습관처럼, 소비 속도가 빨라질수록 이해를 붙잡아 두는 마찰 장치가 필요해진다.
• 모델이 잘하는 일과 못하는 일이 들쭉날쭉한 이유는 평가의 난이도 차이에 가깝다. 소설이나 유머가 약한 것은 그 결과를 채점할 방법이 마땅치 않기 때문이다.
• 지금의 담론은 대부분 아래 레이어부터 전부 이해해야 한다고 배운 세대의 전제 위에 서 있다. 그 전제를 공유하지 않는 세대가 어떻게 학습하는지는 따로 살펴볼 문제다.

자주 묻는 질문

관련 AI 소식