에이전트 워크플로란 무엇인가? 단일 프롬프트가 막힐 때 문제를 여러 단계로 나누는 법

핵심 메시지

• 가장 크고 강력한 LLM에 프롬프트 하나를 줘도 안 풀리는 문제는, 여러 단계로 쪼갠 '에이전트 워크플로'로 해결할 수 있다.
• 발표자는 주문 누락 품목에 유효한 사유가 있는지 검증하는 실제 과제를 예로 든다.
• 워크플로는 추출→사유 유효성 판별→열 비교→텍스트 생성의 네 단계로 나뉜다.
• 각 단계는 추출·분류·비교·생성이라는 서로 다른 성격의 작업이어서, 하나로 뭉치면 모델이 혼란을 일으킨다.
• 문제를 여러 LLM 호출·프롬프트·함수로 분해하는 것 자체가 '에이전트 워크플로'다.

쉽게 이해하기

발표자는 보통 작은 LLM부터 시작해 안 되면 점점 큰 모델로 옮겨간다고 말한다. 그런데 가장 크고 강력한 모델을 써도 프롬프트 하나로 풀리지 않는 상황이 실제로 있었고, 이때 단일 프롬프트 대신 에이전트 워크플로로 전환한 과정을 이 영상에서 보여준다.

문제는 겉보기엔 단순했다. 식료품 대리 구매에서 '주문에 포함되지 않은 품목 목록'(B열)과 '직원 메모'(A열)가 주어지고, 누락된 각 품목에 설명이 있는지 확인해 없으면 '치즈 - 설명 없음'처럼 파일로 남기는 일이었다. 대체로 작동했지만, 사유가 'meh(별로)'처럼 타당하지 않은 경계 사례에서 막혔다. 사유를 식별할 수는 있어도 그것이 유효한지 판단하기 어려웠던 것이다.

그래서 그는 작업을 네 단계로 나눴다. 첫 프롬프트는 B열에서 설명이 달린 품목을 추출하고, 두 번째 프롬프트는 그 사유가 유효한지 판별하며, 세 번째는 그 결과를 다시 B열과 비교하고, 네 번째는 최종 텍스트를 출력한다. 세 단계로 하든 네 단계로 하든, 일부는 프롬프트가 아닌 일반 텍스트 함수로 처리하든 상관없다고 강조한다.

핵심은 각 단계가 성격이 다른 작업이라는 점이다. 첫 단계는 정보를 뽑아내는 추출, 둘째는 사유의 타당성을 가르는 분류, 셋째는 비교(역시 분류의 일종), 넷째는 새 텍스트를 만드는 생성이다. 이렇게 이질적인 작업을 한 번에 시키니 원래의 LLM이 혼란을 겪었다는 것이다. 문제를 여러 단계로 쪼개 여러 번의 LLM 호출·프롬프트·함수로 처리하는 것, 그것이 바로 에이전트 워크플로다.

주요 인사이트

• 모델을 더 키운다고 모든 문제가 풀리는 것은 아니다. 한계에 부딪히면 '더 큰 모델'이 아니라 '문제의 분해'가 답일 수 있다.
• 하나의 프롬프트에 추출·분류·비교·생성을 몰아넣으면 모델이 혼란스러워한다. 성격이 다른 작업은 단계별로 분리하는 편이 안정적이다.
• 에이전트 워크플로의 모든 단계가 꼭 LLM일 필요는 없다. 단순 비교나 출력은 일반 함수로 처리해도 되며, 중요한 것은 작업을 적절히 나누는 설계다.

자주 묻는 질문

관련 AI 소식