RAG 완전정리: 작동 원리·오해·구성요소·패턴 10가지

핵심 메시지

• RAG(검색 증강 생성)는 모델이 먼저 관련 정보를 찾아본 뒤 그 근거 위에서 답을 생성하게 하는 '오픈북 시험' 방식이다.
• 'RAG는 죽었다', '맥락 창이 커지면 RAG가 필요 없다'는 두 주장은 모두 사실이 아니라고 반박한다.
• RAG의 품질은 청킹 방식, 임베딩 모델, 벡터 데이터베이스 선택 같은 구성요소를 얼마나 잘 이해하느냐에 갈린다.
• 영상은 단순 RAG부터 그래프 RAG까지 서로 다른 문제를 푸는 10가지 RAG 패턴을 소개한다.
• 발표자는 RAG가 단일 기술이 아니라 계속 진화하는 '아키텍처 패턴'이며, 현재 기업용 AI 애플리케이션 대부분의 토대라고 강조한다.

쉽게 이해하기

발표자는 RAG를 오픈북 시험에 비유한다. 모든 사실을 외우지 않아도 옆에 둔 교재와 노트에서 필요한 부분을 찾아 답을 쓰듯, RAG는 학습된 지식만 쓰는 대신 관련 정보를 먼저 검색해 그 근거 위에서 답을 생성하게 한다. 즉 RAG는 올바른 정보를 찾는 검색 시스템과 그 정보로 답하는 생성 시스템(LLM)이 함께 작동하는 구조다.

이어 두 가지 큰 오해를 짚는다. 첫째 'RAG는 죽었다'는 주장은, 검색된 맥락이 있어도 모델이 가끔 환각을 낸다는 일부 논문을 확대 해석한 결과라고 본다. RAG는 단일 기술이 아니라 진화하는 아키텍처 패턴이며 교정형·셀프·에이전트형 RAG가 그 진화의 산물이라는 것이다.

둘째 '맥락 창이 커지면 RAG가 필요 없다'는 주장에는 비용, 지연 시간, 그리고 무관한 맥락을 잔뜩 넣으면 모델 성능이 오히려 떨어진다는 점을 든다. 잘 만든 RAG는 정확도·비용·속도 모두에서 무작정 맥락을 밀어 넣는 방식을 능가한다고 정리한다.

구조 설명에서는 먼저 문서를 쪼개 저장하는 청킹을 다룬다. 고정 크기 청킹은 문맥이 경계에서 잘리는 약점이 있어, 의미 단위로 끊는 시맨틱 청킹, 문서 구조를 살리는 문서 인식 청킹, 작은 청크와 부모 청크를 함께 저장하는 계층형(small-to-big) 청킹이 더 낫다고 설명한다. 이어 텍스트를 의미 벡터로 바꾸는 임베딩 모델과 그 벡터를 저장·검색하는 벡터 데이터베이스, 그리고 하이브리드 검색을 소개한다.

마지막으로 서로 다른 문제를 푸는 10가지 RAG 패턴을 차례로 든다. 단순 RAG, 메모리 RAG, 분기(branched) RAG, 가설 문서 임베딩(HyDE), 적응형 RAG, 교정형(corrective) RAG, 셀프 RAG, 에이전트형 RAG, 멀티모달 RAG, 그래프 RAG다. 발표자는 특히 에이전트형 RAG를 분야의 진행 방향으로 꼽는다.

주요 인사이트

• RAG는 '멋진 트릭'이 아니라 고객지원, 사내 지식 도우미, 법률 문서 분석 등 진지한 기업용 AI 대부분의 토대라는 점을 강조한다.
• 청킹에서 작은 청크로 검색하되 더 넓은 맥락의 부모 청크를 함께 모델에 넘기는 small-to-big 기법을 실전 RAG의 최고 기술 중 하나로 꼽는다.
• 임베딩 모델은 도메인에 따라 성능 차가 커서(법률 텍스트에 강한 모델이 코드 문서엔 평범할 수 있음) 자기 도메인에서 직접 벤치마크하라고 권한다.
• 교정형 RAG와 셀프 RAG처럼 검색 후 품질을 평가하거나 모델이 스스로 reflection 토큰으로 자기 추론을 검증하는 패턴은 고위험 응용에서 특히 유효하다.
• 그래프 RAG는 문서를 평평한 청크 묶음이 아니라 개체와 관계의 지식 그래프로 다루기 때문에, 여러 정보를 연결해야 하는 질문에서 단순 벡터 검색을 크게 앞선다.

자주 묻는 질문

관련 AI 소식