벡터 데이터베이스란? 임베딩과 유사도 검색으로 LLM에 장기 기억 더하기

핵심 메시지

• 벡터는 숫자 배열일 뿐이지만, 단어·문장·이미지·오디오 같은 복잡한 대상을 고차원 공간의 '임베딩'으로 표현할 수 있다.
• 임베딩은 의미가 비슷한 대상을 가까이 모으므로, 추천 시스템·검색 엔진·텍스트 생성에 활용된다.
• 벡터 데이터베이스는 유사도로 묶인 숫자 배열을 초저지연으로 질의해 AI 애플리케이션에 적합하다.
• Pinecone·Weaviate·Chroma·Milvus 등 전용 DB와 함께 pgvector·Redis 같은 기존 DB의 벡터 지원도 늘고 있다.
• 벡터 DB의 진짜 인기 비결은 LLM에 외부 데이터와 장기 기억을 더해 답변을 맞춤화할 수 있다는 점이다.

쉽게 이해하기

영상은 2023년 당시 Weaviate, Pinecone, Chroma 등 벡터 데이터베이스 스타트업에 대규모 투자가 잇따른 상황을 소개하며 '도대체 벡터 DB가 뭔가'라는 질문을 던진다. 진행자는 특유의 빠른 호흡으로 벡터와 임베딩이라는 기본 개념부터 풀어 나간다.

벡터는 단순한 숫자 배열이지만, 단어·문장·이미지·오디오 같은 대상을 '임베딩'이라는 고차원 연속 공간에 표현할 수 있다는 점이 특별하다. 파티에서 비슷한 사람들끼리 모이듯, 임베딩 공간에서는 의미가 가까운 대상이 서로 가까이 모인다. 이런 성질 덕분에 임베딩은 추천 시스템, 검색 엔진, ChatGPT 같은 텍스트 생성에 쓰인다.

임베딩을 만든 뒤에는 '어디에 저장하고 어떻게 빠르게 조회하느냐'가 과제가 된다. 관계형 DB는 행과 열, 문서 DB는 문서와 컬렉션을 다루지만, 벡터 DB는 유사도로 군집화된 숫자 배열을 초저지연으로 질의한다. postgres의 pgvector나 Redis처럼 기존 DB도 벡터를 지원하고, Weaviate·Milvus(오픈소스), Pinecone, Chroma 등 전용 DB도 등장했다.

코드 예시에서는 Chroma와 자바스크립트로 클라이언트를 만들고, OpenAI API로 임베딩 함수를 정의해 데이터가 추가될 때마다 임베딩을 갱신한다. 문자열로 질의하면 결과 문서와 함께 거리(distance) 배열이 반환되며, 거리가 작을수록 유사도가 높다.

진행자는 벡터 DB가 뜨거운 진짜 이유로 LLM에 장기 기억을 더할 수 있다는 점을 꼽는다. GPT-4 같은 범용 모델에 자체 데이터를 벡터 DB로 연결하면, 사용자의 프롬프트에 맞춰 관련 문서를 불러와 맥락을 보강하고 응답을 맞춤화할 수 있으며 과거 데이터를 불러와 장기 기억도 부여할 수 있다. LangChain 같은 도구와의 연동도 함께 언급한다.

주요 인사이트

• 벡터의 힘은 숫자 배열 자체가 아니라, 단어·이미지 등 복잡한 대상의 '의미'를 좌표로 옮겨 비슷한 것끼리 가깝게 배치하는 데 있다.
• 벡터 DB는 키워드가 아니라 의미적 유사도로 검색하므로, 추천·검색·생성형 AI 애플리케이션에 자연스럽게 들어맞는다.
• 전용 벡터 DB가 쏟아지지만 pgvector나 Redis처럼 기존 데이터베이스에 벡터 기능이 더해지는 흐름도 무시할 수 없다.
• 벡터 DB의 폭발적 관심은 결국 LLM의 한계를 보완하는 데서 나온다. 외부 데이터 연결로 답변을 맞춤화하고 장기 기억을 부여하기 때문이다.
• 쿼리 결과의 거리(distance) 값은 작을수록 유사도가 높다는 직관적 지표로, 검색 품질을 가늠하는 출발점이 된다.

자주 묻는 질문

관련 AI 소식