RAG란 무엇인가: 키워드·시맨틱 검색, 임베딩, 리랭크, 벡터 데이터베이스 원리 정리

핵심 메시지

• 언어 모델은 다음 단어를 예측할 뿐 사실을 저장하지 않아, 최신 정보나 정확성이 필요한 질문에는 취약하다.
• RAG는 모델이 답하기 전에 외부에서 정보를 검색해 그 내용을 근거로 답하고, 모르면 '모른다'고 말하게 하는 방식이다.
• 키워드 검색은 단어 일치를, 시맨틱 검색은 의미를 본다. 상황에 따라 유리한 쪽이 달라 둘을 합친 하이브리드 검색이 강력하다.
• 임베딩은 단어와 문장을 의미가 비슷하면 가까운 위치의 숫자로 바꿔, 공통 단어가 없어도 비슷한 뜻을 찾게 해준다.
• 시맨틱 검색은 '가장 비슷한 문장'을 찾을 뿐 정답을 보장하지 않으므로, 리랭크와 벡터 데이터베이스로 정확도와 속도를 보완한다.

쉽게 이해하기

루이스 세라노는 언어 모델이 왜 사실 질문에 약한지부터 짚는다. 신경망은 문장에서 다음에 올 단어를 알려줄 뿐 사실을 저장하거나 정확성을 검사하지 않는다. 그래서 US 오픈 우승자처럼 학습 이후의 일이나 정확한 사실을 물으면 틀리거나 답하지 못할 수 있다. 해결책이 바로 검색으로 보완하는 RAG(검색 증강 생성)다.

RAG의 핵심은 모델이 자기 기억으로 답하지 않고, 먼저 웹이나 위키피디아 등에서 정보를 찾아 읽은 내용을 근거로 답하게 하는 것이다. 발표자는 언어 모델을 '헤드라이트는 어둡지만 백미러는 거대한 자동차'에 비유한다. 앞은 한 단어밖에 못 보지만(다음 단어 예측), 뒤(맥락)에는 방대한 정보를 담을 수 있다. RAG는 이 거대한 백미러의 강점으로 어두운 헤드라이트의 약점을 메운다. 이 과정에는 질문을 좋은 검색어로 다시 쓰는 단계도 포함된다.

검색 자체가 까다롭다는 점을 두 예로 보여준다. '여행을 예약한다(book a trip)'를 찾을 때는 단어가 겹치는 '여행에 관한 책'보다 의미가 통하는 '휴가 계획 세우기'가 정답에 가깝다. 이때는 의미를 보는 시맨틱 검색이 유리하다. 반대로 'ISO 9001 인증 절차'처럼 구체적인 것을 찾을 때는 의미를 넓게 확장한 문서보다 단어가 정확히 겹치는 체크리스트가 더 유용하다. 이때는 키워드(전문) 검색이 낫다.

시맨틱 검색의 바탕은 임베딩이다. 임베딩은 단어나 문장을 숫자(보통 1,024차원 정도)로 바꾸되, 의미가 비슷하면 가까운 위치에 놓는다. 그래서 '안녕, 잘 지내?'와 '요즘 어때?'처럼 공통 단어가 없어도 비슷한 뜻이면 가깝게 배치된다. 다만 임베딩은 '가장 비슷한 문장'을 찾을 뿐이어서, '사과는 무슨 색?'에 '오렌지는 무슨 색?'이 가장 가깝게 나오는 것처럼 유사할 뿐 정답이 아닐 수 있다.

이 한계를 메우는 방법으로 세 가지가 소개된다. 하이브리드 검색은 키워드와 시맨틱 결과를 점수로 합쳐 두 방식의 장점을 모두 쓴다. 리랭크는 '이 답이 이 질문의 정답인가'를 판단하도록 학습한 신경망으로, 질문·응답 쌍마다 관련도 점수를 매겨 다시 정렬한다. 마지막으로 벡터 데이터베이스는 모든 문서와 일일이 거리를 재는 부담을, 데이터를 격자처럼 미리 구획해 이웃 칸만 비교하는 ANNOY 같은 기법으로 줄여 빠른 검색을 가능하게 한다.

주요 인사이트

• RAG의 목적은 모델의 '아는 척'을 줄이고, 근거가 있으면 근거로 답하고 없으면 모른다고 말하게 만드는 것이다.
• 검색은 만능이 아니다. 질문의 성격에 따라 키워드가 나을 때와 시맨틱이 나을 때가 갈리므로 둘을 조합하는 편이 안전하다.
• 임베딩은 '유사도'를 재는 도구이지 '정답'을 재는 도구가 아니라는 점을 이해해야 검색 결과를 올바르게 해석할 수 있다.
• 리랭크는 유사도와 정답성을 분리해, 비슷해 보이지만 틀린 답을 걸러내는 역할을 한다.
• 벡터 데이터베이스의 가치는 저장뿐 아니라, 사전 구획으로 비교 횟수를 줄여 대규모에서도 빠르게 찾는 데 있다.

자주 묻는 질문

관련 AI 소식