AI 에이전트 평가(Eval)와 프롬프트 설계: 유튜브 광고팀이 공유한 품질 관리 실전 가이드

핵심 메시지

• 에이전트의 신뢰성은 '능력 + 가드레일 + 평가(eval)'의 함수이며, 비결정적인 생성 AI를 실제 서비스에 올리려면 평가 체계가 필수다.
• 처음에는 확장 불가능하더라도 직접 출력을 눈으로 보는 '직관 기반' 평가로 빠르게 반복하는 편이, 곧바로 거대한 평가셋을 만드는 것보다 낫다.
• 합격/불합격 라벨만으로는 부족하다. 평가자에게 판단 근거 설명을 받고 에이전트의 사고 과정(trace)을 들여다봐야 진짜 실패 원인이 보인다.
• 개별 실패 사례 하나에 매달리지 말고 '패턴'에 집중하며, 골든셋과 온라인 평가로 실제 분포를 반영해야 한다.

쉽게 이해하기

구글 유튜브 광고팀에서 이미지·영상 모델을 다루는 프리티카 바테자와 대니얼 범프는 'AI 엔지니어' 컨퍼런스 평가(eval) 세션에서, 광고 생성 에이전트를 만들며 실제로 통했던 방법들을 공유했다. 이들은 에이전트를 만드는 일 자체가 고되고, 그것을 신뢰할 수 있게 만드는 일은 더 어렵다고 말한다. 생성 AI의 출력은 결정적이지 않아 같은 입력에도 성공과 실패를 오가기 때문에, 대규모로 품질을 측정할 장치가 필요하다는 것이다.

출발점은 탄탄한 기반이다. 우선 LLM이 쓰기 좋은, 초점이 분명하고 강력한 도구 세트를 만들어 최적화한 뒤에야 더 큰 규모의 에이전트 평가로 넘어가라고 조언한다. 여기에 별도의 '비평 에이전트'와 교정 루프를 더하면 기본 도구가 놓치는 부분을 스스로 메우는 자기 교정 장치를 만들 수 있다. 좋은 평가는 변경의 가치를 증명하고 실험(ablation)을 돌릴 수 있게 해 주는, 품질을 끌어올리는 사다리다.

역설적으로 초기에는 '느낌으로 하는(vibing)' 접근이 유용하다고 강조한다. 확장은 안 되지만 출력을 직접 눈으로 보며 문제를 빠르게 파악하는 방식인데, 이 단계에서는 프롬프트 한 줄 수정만으로도 큰 성능 향상이 나오고 아키텍처를 과감히 바꿔도 평가가 발목을 잡지 않는다. 반대로 규모화된 채점자(scale rater)로 너무 일찍 넘어가면 평가를 보정하는 동안 성능이 크게 출렁인다. 그래서 소수의 핵심 과제로 작게 시작해 점차 정교하게 키우고, '하지 말아야 할 일을 하지 않았는지'라는 부정 사례도 함께 검증하라고 말한다.

규모를 키울 때는 채점자에게 명확한 예시가 담긴 루브릭을 주고, 팀 내에서 무엇이 '합격'인지에 대한 사람 간 합의를 단단히 하는 것이 핵심이다. 단순 합격/불합격 대신 '왜 그렇게 판단했는지' 설명을 받아야 개선 방향이 보인다. LLM을 심판으로 쓸 때도 사람 채점과 LLM 채점의 불일치를 샘플링 파이프라인으로 모니터링하고, 합격/불합격을 넘어 에이전트의 실행 궤적(trace)을 직접 확인한다. 실제로 '법적 이유로 면책 문구는 절대 지우지 말라'고 프롬프트에 여러 번 학습시켰는데도, 엣지 케이스에서 에이전트가 공익 광고의 면책 문구를 인식하고도 지워 버린 사례가 있었고, 이는 합격률 수치만으로는 잡히지 않아 궤적을 들여다봐야 원인이 드러났다.

마지막으로 이들은 출시 준비 단계에서 어떤 성능 저하가 허용 가능한 트레이드오프이고 어떤 것이 치명적 실패인지 구분해야 하며, 하나의 실행 결과에 과몰입하지 말고 골든셋 전반의 패턴에 근거해 판단하라고 정리한다. 좋은 평가 체계는 제품이 잘해야 할 것을 대표해야 하고, 온라인 평가·주기적으로 갱신되는 테스트셋·엄선된 골든셋으로 계속 진화해야 하며, 채점 기준과 출시 지표(정밀도·재현율 등 게이트키핑 규칙)를 초기에 분명히 정해 두어야 한다고 강조한다.

주요 인사이트

• 평가는 '완성해 두는 산출물'이 아니라 에이전트와 함께 계속 진화시키는 시스템이다. 테스트셋은 아껴 쓰되 운영 데이터로 주기적으로 갱신한다.
• '평가를 작성하는 일'은 작은 점 하나지만, 무엇을 합격으로 볼지 사람들이 합의하는 일은 훨씬 큰 과제다. 루브릭과 예시에 대한 투자와 팀 교육이 품질을 좌우한다.
• 전통적 머신러닝의 원칙이 그대로 적용된다. 에이전트는 학습 분포 밖에서 잘 일반화되지 않으므로 엣지 케이스와 폭넓은 능력을 검증할 테스트셋이 필요하다.
• 정밀도·재현율 같은 지표로 회귀를 파악하되, 개별 실패가 아니라 반복되는 패턴에 집중해 프롬프트·도구·모델 어디를 고칠지 판단해야 한다.

자주 묻는 질문

관련 AI 소식