LLM 챗봇 평가 방법 — 단위 테스트부터 심판 LLM, 대화 전체 채점까지 3단계 정리

핵심 메시지

• 분류나 회귀와 달리 챗봇에는 기성 지표가 없어서, 막연한 '느낌'을 수치로 옮기는 작업을 따로 설계해야 한다.
• 가장 쉬운 층은 일반 소프트웨어의 단위 테스트처럼 특정 문구 포함 여부, 단어 수 제한, 정규식 일치를 참·거짓으로 확인하는 것이다.
• 친절함이나 어조 같은 정성적 품질은 또 다른 언어모델을 심판으로 세워 판정하게 한다.
• 심판을 신뢰하려면 사람이 매긴 정답 라벨과의 일치도가 목표치에 닿을 때까지 심판의 프롬프트를 보정해야 한다.
• 가장 어렵지만 가장 중요한 층은 대화 전체의 품질이며, 사용자를 연기하는 모델과 챗봇, 심판 모델을 붙여 대화를 통째로 점수화한다.

쉽게 이해하기

데이터 사이언스 채널 ritvikmath가 반려동물 사료 회사의 상담 챗봇이라는 가상의 상황으로 이야기를 연다. 프롬프트를 고치고 온도값을 만지며 만드는 동안에는 재미있지만, 어느 순간 '이게 정말 잘 하고 있는 건가'라는 질문에 막히게 된다. 분류 문제라면 정밀도나 재현율, 회귀라면 평균제곱오차를 쓰면 그만인데, 질문과 답변 쌍의 좋고 나쁨은 그런 식으로 재지지 않기 때문이다.

첫 단계는 놀랄 만큼 평범하다. 소프트웨어 개발의 단위 테스트처럼, 정해진 질문을 던지고 답변이 조건을 만족하는지 참·거짓으로 확인하는 것이다. 가장 싼 사료를 물었으면 실제 그 제품명이 답변에 들어 있는지, 답변이 50단어를 넘지 않는지, 백분율을 요구했다면 숫자가 실제로 등장하는지 같은 검사가 여기에 해당한다. 특히 길이 제한은 프롬프트에 넣은 지시가 지켜지는지 확인하는 수단으로 자주 쓰인다고 소개한다.

문제는 이 검사를 모두 통과하고도 좋은 답이 아닐 수 있다는 점이다. '트루바크 사료입니다'라는 답은 사실도 맞고 길이도 짧지만 대화 상대로서는 차갑고 무뚝뚝하다. 이런 어조와 분위기는 규칙으로 잡히지 않으므로, 여기서부터는 또 다른 언어모델에게 '이 답변이 친절한 어조인가'를 참·거짓으로 판정하게 하는 심판 모델을 도입한다. 판정 단위는 여전히 질문과 답변 한 쌍이지만, 잣대가 계산 가능한 수치에서 전반적인 인상으로 옮겨간다.

그러면 심판은 누가 심판하느냐는 문제가 남는다. 영상은 두 가지 대응을 제시하는데, 하나는 심판에게 묻는 질문을 최대한 단순하게 유지해 오판의 여지를 줄이는 것이고 다른 하나는 사람이 직접 매긴 정답 라벨을 모아 심판을 보정하는 것이다. 예컨대 백 명 남짓이 같은 답변에 친절 여부를 표시하게 하고, 심판의 판정이 이 라벨과 충분히 높은 비율로 일치할 때까지 프롬프트를 다듬는다. 기준선을 넘기고 나면 느리고 비싼 사람 대신 빠르고 싼 심판을 계속 쓸 수 있다는 논리다.

마지막 층은 대화 전체다. 개별 문답은 다 멀쩡한데 처음부터 끝까지 이어 놓고 보면 흐름이 어색한 경우가 있기 때문인데, 출시 전에는 실제 사용자가 없으므로 가장 싼 고양이 사료를 찾는 사람이나 사료 값이 궁금할 뿐인 비반려인 같은 페르소나를 언어모델에게 연기시켜 챗봇과 정해진 횟수만큼 주고받게 한다. 그 대화 기록을 심판 모델이 통째로 읽고 1점에서 5점 사이 점수를 매기며, 이 척도 역시 여러 사람의 채점과 맞춰 보정한다. 서비스를 열고 나면 연기하던 모델은 빼고 실제 대화를 그대로 심판에게 먹이면 된다.

주요 인사이트

• 평가 설계를 국소적인 것과 전역적인 것으로 나눠 보면 정리가 쉽다. 단위 테스트와 심판 판정은 문답 하나가 괜찮은지를 보고, 대화 채점은 서비스 전체가 제 역할을 하는지를 본다.
• 심판 모델의 신뢰도는 결국 사람 라벨에 얹혀 있다. 사람 채점을 아예 없애는 것이 아니라, 초기에 한 번 모아 두고 그 뒤로는 반복 비용을 줄이는 구조다.
• 대화 품질 채점은 사람끼리도 답이 갈리는 주관적 과제라서, 한 대화에 여러 명이 점수를 매겨 상·하한과 평균을 함께 보는 편이 낫다고 조언한다.
• 페르소나를 연기하는 모델을 세우는 방식은 실제 사용자가 없는 출시 전 단계를 메우는 임시 수단이다. 실제 로그가 쌓이면 그 자리는 진짜 사용자로 대체된다.
• 챗봇은 사용자에게 무엇이든 말할 수 있어서 기대 이익과 위험이 동시에 가장 크다. 전통적인 머신러닝보다 평가가 어려운데도 평가가 더 중요한 이유가 여기에 있다.

자주 묻는 질문

관련 AI 소식