에이전틱 RAG란 무엇인가 — 계획·검색·검증·생성으로 이어지는 4단계 구조 정리

핵심 메시지

• 기존 RAG는 한 번 검색해 한 번 답하는 구조라, 검색이 놓친 정보를 모델이 되짚을 방법이 없다.
• 에이전틱 RAG는 계획·검색·검증·생성 역할을 나눈 에이전트들이 여러 단계를 거쳐 답을 만든다.
• 검증 에이전트가 중간 결과를 확인하고 실패한 조회를 재시도하거나 대체 경로로 바꾸면서 환각을 줄인다.
• 모든 단계의 성공·실패가 기록돼 다음 질의에서 어떤 출처를 먼저 볼지 판단하는 근거가 된다.
• 구현 방식은 함수 호출이 가능한 대형 모델을 직접 쓰는 방법과 전용 에이전트 프레임워크를 쓰는 방법으로 나뉜다.

쉽게 이해하기

영상은 독일의 한 유니버설 은행 사례로 이야기를 연다. 이 은행은 아카이브 검색부터 양식 관리, 고객 안내 메일·문자 발송까지 200가지가 넘는 업무 절차에 의존하고 있었고, 위임장 발급 같은 업무 하나에도 30번이 넘는 시스템 호출과 사람 손을 거치는 이관이 필요했다. 그 결과 절차는 느리고 비용이 크며 실수가 나기 쉬운 상태였다.

IBM과 함께 만든 대화형 뱅킹 어시스턴트는 이 절차를 역할이 나뉜 에이전트들에게 맡겼다. 계획 에이전트가 위임장 처리의 각 단계를 늘어놓고, 검색 에이전트들이 코어뱅킹·아카이브·양식 관리·메일과 문자 API를 오가며 단계별로 필요한 정보만 가져온다. 검증 루프가 각 단계의 완료를 확인한 뒤에야 다음으로 넘어가고, 마지막에 생성 에이전트가 고객이 이해할 수 있는 안내 문구를 만든다. 영상에 따르면 도입 이후 해당 업무에 드는 전체 노력은 절반으로, 고객 문의 티켓은 30% 줄었다.

에이전틱 RAG의 구조는 공장에 비유된다. 사용자의 프롬프트가 작업 지시서이고 대형 언어 모델이 전체 그림을 그리는 총괄자라면, 그 아래 에이전트 계층에 각 분야 전문가가 배치된다. 계획 에이전트가 큰 지시를 개별 작업으로 쪼개고, 검색 에이전트가 벡터 데이터베이스 질의나 웹 API 호출, 문서 저장소 조회로 필요한 자료를 모으며, 검증 에이전트가 정확성을 확인하고, 생성 에이전트가 검증된 조각을 하나의 답으로 엮는다.

여기에 지식 베이스와 도구 상자, 그리고 피드백 루프가 더해진다. 시맨틱 검색 색인부터 고객 관리 시스템, 계산기와 외부 웹 서비스까지가 에이전트가 꺼내 쓰는 도구이고, 각 단계의 성공과 실패가 기록으로 남아 어떤 출처가 믿을 만한지, 어떤 질의를 다듬어야 하는지에 대한 판단을 축적한다. 계획·검색·검증·생성·학습이 한 바퀴를 이루는 셈이다.

구현 방법은 두 갈래로 제시된다. 하나는 함수 호출을 지원하는 대형 모델을 그대로 써서 별도 조정 계층 없이 외부 API와 도구를 부르게 하는 방식이고, 다른 하나는 랭체인·라마인덱스·랭그래프 같은 전용 프레임워크로 여러 에이전트를 조율하는 방식이다. 빠르게 붙이려면 앞쪽이, 에이전트의 상호작용까지 통제하려면 뒤쪽이 낫다는 것이 영상의 정리다.

주요 인사이트

• 에이전틱 RAG의 차별점은 검색 성능 자체보다 '틀렸을 때 되돌아갈 수 있는가'에 있다. 기존 RAG에는 재시도라는 선택지가 구조적으로 없다.
• 검증 단계를 파이프라인 안에 상설로 두면 환각은 사후 점검이 아니라 실행 중 걸러내는 문제로 바뀐다.
• 여러 에이전트를 병렬로 돌릴 수 있어, 단계가 늘어난다고 응답 지연이 그만큼 비례해 늘어나지는 않는다.
• 텍스트 한 갈래로 굳어 있던 파이프라인과 달리 이미지·음성·정형 데이터를 필요할 때 끌어다 쓸 수 있다는 점이 활용 범위를 넓힌다.
• 사례에서 절감 효과가 컸던 이유는 모델 성능이 아니라, 사람이 손으로 넘기던 30여 번의 시스템 이관을 자동화했기 때문이다.

자주 묻는 질문

관련 AI 소식