RAG(검색 증강 생성)란 무엇인가: 파인튜닝과의 차이와 임베딩 검색으로 답을 찾아오는 원리

핵심 메시지

• 언어모델의 기억은 학습이 끝난 날 멈춰 있어서, 본 적 없는 사내 자료를 물으면 모른다고 하지 않고 자신 있게 지어낸다.
• 해법은 두 갈래다. 가중치를 다시 써서 지식을 뇌에 새기는 파인튜닝과, 뇌는 그대로 두고 필요한 순간에 찾아오는 검색이다.
• 검색은 키워드가 아니라 의미로 이뤄진다. 문서를 조각내 벡터로 바꾸면 비슷한 뜻끼리 가까이 모인 지도가 만들어진다.
• 질문도 같은 공간의 벡터가 되므로, 관련 자료를 찾는 일은 질문에서 가장 가까운 점 몇 개를 고르는 기하 문제가 된다.
• 파인튜닝은 모델이 어떤 존재인지를 바꾸고, 검색은 모델이 지금 무엇을 볼 수 있는지를 바꾼다.

쉽게 이해하기

언어모델에게 회사의 분기 보고서 내용을 물으면 즉시, 그리고 아주 자신 있게 답한다. 문제는 그 답이 완전히 틀렸다는 것이다. 모델의 기억은 학습이 끝난 날에 얼어붙었고, 회사의 비공개 자료는 애초에 본 적이 없다. 그런데도 모른다고 말하는 대신 그럴듯한 추측으로 빈칸을 채운다. 이 영상은 배운 적 없는 것을 답하게 만드는 두 갈래 길을 구분하는 데서 시작한다.

첫 번째 길은 파인튜닝이다. 모델의 가중치를 다시 쓰면서 새 지식이 뇌 안에 새겨질 때까지 추가로 학습시킨다. 효과는 있지만 느리고 비싸며, 사실이 바뀌는 순간 처음부터 다시 해야 한다. 두 번째 길은 검색이다. 뇌는 전혀 건드리지 않고, 답이 필요한 순간에 찾아본다. 영상은 이 차이를 학자를 다시 학교로 보내는 것과 그 학자에게 알맞은 책을 건네주는 것으로 비유한다.

그렇다면 수백만 권 중에서 맞는 책을 어떻게 고를까. 키워드 일치가 아니라 의미로 찾는다. 모든 문서는 조각으로 잘리고 각 조각은 벡터가 된다. 비슷한 뜻을 가진 것들이 서로 가까운 자리에 놓이는 공간이라서, 돈에 관한 보고서는 이쪽에, 제품에 관한 메모는 저쪽에 모인다. 도서관 전체가 의미의 지도로 바뀌는 셈이다. 질문이 들어오면 질문도 같은 공간에 벡터로 떨어지고, 관련 자료를 찾는 일은 질문 근처의 점 몇 개를 집어오는 기하 문제가 된다.

골라온 조각들은 질문 바로 앞에 붙어 프롬프트로 모델에게 전달된다. 이제 모델은 얼어붙은 기억에서 답을 꺼내는 것이 아니라 눈앞의 지면을 읽는다. 이름 그대로다. 검색(retrieval)이 알맞은 텍스트를 찾고, 증강(augmentation)이 그것을 맥락에 넣고, 생성(generation)이 답을 쓴다. 실제 출처를 읽고 답하기 때문에 어디서 나온 내용인지 인용까지 할 수 있다.

영상이 마지막에 짚는 구분이 핵심이다. 파인튜닝은 모델이 어떤 존재인지를 바꾼다. 기술과 문체와 습관이 달라진다. 검색은 모델이 지금 무엇을 볼 수 있는지를 바꾼다. 사실과 오늘의 데이터가 달라진다. 새 책이 들어올 때마다 사서를 다시 교육시키지는 않는다. 책장에 꽂아두면 된다. 더 똑똑해진 모델처럼 느껴지는 것의 상당 부분은 사실 뒤에 있는 도서관이 좋아진 결과라는 것이다.

주요 인사이트

• 환각의 원인을 능력 부족이 아니라 정보 접근의 문제로 다시 정의한 점이 이 설명의 출발점이다.
• 파인튜닝과 검색을 '지식을 넣는 두 방법'으로 나란히 놓는 흔한 오해를 능력과 사실의 구분으로 정리한다.
• 임베딩 공간에서 검색이 기하 문제가 된다는 표현은, 검색 품질이 결국 조각내기와 임베딩의 품질에 달려 있음을 시사한다.
• 출처 인용이 가능한 이유가 별도 기능이 아니라 구조의 부산물이라는 점도 분명해진다. 실제로 읽은 문서가 있기 때문이다.
• 사실이 자주 바뀌는 영역일수록 검색이 유리하다. 파인튜닝은 사실이 변할 때마다 비용을 다시 치러야 한다.

자주 묻는 질문

관련 AI 소식