하이브리드 검색이란: 키워드 검색과 벡터 검색을 합치는 이유 (구글 AlloyDB 데모)

핵심 메시지

• 키워드 검색은 데이터베이스에 그 단어가 실제로 있어야만 결과를 내놓기 때문에, 표현이 조금만 달라도 결과가 0건이 된다.
• 벡터 검색은 단어가 일치하지 않아도 의미로 찾아주지만, 제품명이나 전화번호처럼 의미가 없는 문자열에는 약하다.
• 하이브리드 검색은 의미를 다루는 벡터 검색과 문자열을 다루는 전문 검색을 결합해 두 방식의 빈틈을 서로 메운다.
• 사람뿐 아니라 AI 에이전트가 데이터를 찾을 때도 단순 키워드 검색 이상의 검색 품질이 필요하다는 것이 데모의 전제다.
• 다만 하이브리드 검색 질의는 복잡해지기 쉬워, 구글은 이를 단순화하는 함수와 외부 검색엔진 연결 기능을 함께 제시했다.

쉽게 이해하기

구글 클라우드가 가상의 전자제품 쇼핑몰을 예로 들어, 검색이 왜 어려운 문제인지 보여주는 짧은 데모를 공개했다. 사람 고객과 AI 에이전트 모두에게 단순 키워드 검색만으로는 부족하다는 것이 출발점이다.

먼저 SQL의 키워드 매칭은 데이터베이스에 존재하는 문자열만 찾아낸다. '휴대폰'을 검색하면 그 단어가 들어 있는 상품은 잘 나오지만, 데이터에 없는 표현으로 검색하면 결과가 아예 나오지 않는다. 데모에서는 '단순한(dumb) 휴대폰'을 찾으려 하자 해당 단어가 데이터에 없어 결과가 0건이 되는 상황을 보여준다. 전문 검색과 텍스트 검색 인덱스가 오랜 기간 발전해왔고 포스트그레스 커뮤니티도 관련 인덱스를 추가했지만, 이 실패 방식 자체는 그대로 남아 있다.

벡터 검색은 이 지점을 다르게 접근한다. 키워드가 일치하지 않아도 의미를 기준으로 유사한 항목을 찾기 때문에, 표현이 달라도 의도에 맞는 결과를 돌려준다. 그러나 벡터 검색에도 빈틈이 있다. 브랜드명이나 전화번호처럼 그 자체로는 의미를 갖지 않는 문자열에는 약하다는 점이다.

그래서 나온 것이 두 방식을 함께 쓰는 하이브리드 검색이다. 의미는 벡터 검색이, 의미 없는 문자열은 전문 검색이 맡는다. 데모에서는 특정 브랜드명과 '단순한 휴대폰'이라는 조건을 함께 건 검색이 원하는 결과를 찾아내는 장면으로 이를 보여준다. 다만 이런 질의는 세 개의 공통 테이블 표현식과 조인, 점수 합산까지 얽혀 상당히 복잡해진다. 구글은 이를 간단히 쓸 수 있게 하는 사용자 정의 함수와, 외부 검색 인스턴스를 연결하는 기능을 마지막 예시로 제시했다.

주요 인사이트

• 검색 실패는 대개 '결과가 나쁘게 나오는' 문제가 아니라 '아무것도 나오지 않는' 문제로 나타난다. 키워드가 없으면 0건이라는 실패 방식은 인덱스를 개선해도 사라지지 않는다.
• 벡터 검색을 도입했다고 키워드 검색이 필요 없어지는 것이 아니다. 모델명, 코드, 번호처럼 의미로 환원되지 않는 값은 여전히 문자열 매칭이 정확하다.
• 검색 품질 요구가 높아진 배경에는 AI 에이전트가 있다. 사람이 결과 목록을 훑어보며 보정하던 일을 에이전트가 그대로 받아 쓰기 때문에, 첫 결과의 적합성이 더 중요해진다.
• 하이브리드 검색의 실무 장벽은 개념이 아니라 질의 복잡도다. 점수 결합과 조인을 직접 짜야 한다면 도입 비용이 커진다.

자주 묻는 질문

관련 AI 소식