AlloyDB AI 함수 정리 — Gemini 기반 Rank·If·Generate와 비용 최적화

핵심 메시지

• AlloyDB의 AI 함수는 Gemini 같은 파운데이션 모델의 능력을 데이터에 직접 가져와, 데이터베이스 자체가 알지 못하는 세상 지식까지 활용하게 한다.
• 정식 출시된 LLM 기반 함수로 결과를 재정렬하는 Rank, 지능형 필터링을 하는 If, 비정형 데이터를 JSON 등으로 만드는 Generate가 있고, 과거 데이터로 미래를 예측하는 TimesFM 기반 Forecast도 GA로 제공된다.
• 행마다 LLM을 호출할 때의 비용·성능 우려를 풀기 위해, 임베딩과 LLM 출력으로 로컬 모델을 학습해 LLM 대신 호출하는 '최적화 AI 함수'(AI.if부터)가 도입됐다.
• 벤치마크에서 최적화 AI.if는 초당 최대 10만 행을 0.1센트 미만으로 처리해, 행 단위 LLM 호출보다 최대 2만3000배 빠르고 6000배 저렴한 것으로 제시된다.
• 데모에서 AI 함수는 리뷰 요약·감정 분석은 물론, '수심 40m 이상 방수' 같은 조건을 실제로 판별해 하이브리드 검색의 거짓 양성(false positive)을 걸러낸다.

쉽게 이해하기

AlloyDB는 데이터를 단순히 보관만 하는 저장소가 아니라 지능적으로 이해하고 처리하는 'AI 네이티브' 데이터베이스로 소개된다. 그 핵심이 AI 함수로, Gemini 같은 파운데이션 모델의 힘을 데이터에 직접 가져온다. 예를 들어 소매 웹사이트에서 고객이 '산토리니 여름 휴가용 셔츠'를 검색하면, 데이터베이스는 산토리니의 날씨를 모르지만 Gemini는 안다. 하이브리드 검색으로 상위 1000개를 뽑은 뒤 AI.Rank 함수로 Gemini의 지식에 기반해 재정렬하면, 자연어 프롬프트만으로 가장 적합한 결과를 얻는다.

현재 정식 출시된 LLM 기반 AI 함수는 세 가지다. 결과를 재정렬하는 Rank, 거래의 사기 여부 판단처럼 지능형 필터링을 하는 If, 비정형 데이터를 JSON 형식으로 바꾸는 등 생성 작업을 하는 Generate다. Rank에는 시맨틱 랭커 버전도 있다. 또한 과거 데이터로 미래를 예측하는 TimesFM 기반 Forecast 함수가 GA로 제공돼 재고 최적화나 매출 전망 등에 쓸 수 있다. 여기에 감정을 분류하는 Analyze sentiment, 긴 텍스트를 요약하는 Summarize, 여러 행을 가로질러 요약하는 Aggregate summarize가 새로 추가됐다.

고객들이 흔히 던지는 질문은 '테이블의 모든 행마다 LLM을 호출하면 성능과 비용은 어떻게 되느냐'다. 이에 대한 답이 최적화 AI 함수로, AI.if부터 지원된다. 사용자의 임베딩과 LLM 출력으로 로컬 모델을 학습시켜 LLM 대신 그 모델을 호출하는 방식이다. 벤치마크 기준 초당 최대 10만 행을 0.1센트 미만에 처리했고, 이는 행 단위 LLM 호출보다 최대 2만3000배 빠르고 6000배 저렴한 수치로 제시된다. 비동기 대량 프롬프트, AI 함수 가속, 배열 기반 처리도 성능을 높인다.

데모는 'Simple Gadgets'라는 마켓플레이스로 진행된다. 구매자가 게임 콘솔의 수많은 리뷰를 다 읽을 시간이 없을 때, Aggregate summarize 함수가 리뷰를 짧은 요약으로 압축하고 Analyze sentiment 함수가 리뷰 감정 통계로 커뮤니티 분위기를 보여준다. 카메라를 '수심 40m 이상 방수' 조건으로 찾을 때, 전통적 하이브리드 검색은 설명에 '방수'만 있으면 10m 제품도 보여주는 거짓 양성을 낸다. 반면 AI.if는 임베딩 데이터에 대해 구체적 기준을 평가해 실제로 조건을 만족하는 제품만 반환한다.

조건을 80m로 바꾸면 AI.if는 결과가 0건이라는 '진실'을 알려주지만, 하이브리드 검색은 수심의 뉘앙스를 이해하지 못해 근사치 결과를 보여준다. 80m 예시 코드에서는 준비된 구문으로 AlloyDB 안에 로컬 모델을 만들고, AI.if 호출 시 LLM 대신 그 로컬 모델이 불려 큰 성능·비용 이점을 얻는다. 관리자 입장에서는 AI.summarize로 제품 설명에서 짧은 태그라인을 뽑고, AI.generate로 표준 JSON을 추출해 카탈로그를 자동 관리하며, AI.forecast로 제품별 5개월 판매를 예측해 수요 기반으로 재고를 채울 수 있다.

주요 인사이트

• AI 함수는 데이터베이스가 모르는 '세상 지식'을 Gemini를 통해 끌어와, 검색·필터링·요약을 SQL 흐름 안에서 자연어 프롬프트로 처리하게 한다.
• 행마다 LLM을 호출하는 비용·지연 문제를, 임베딩과 LLM 출력으로 학습한 로컬 모델로 대체하는 것이 최적화 AI 함수의 핵심이다.
• 초당 10만 행·0.1센트 미만, 최대 2만3000배 빠르고 6000배 저렴이라는 수치는 대규모 데이터에 LLM 판단을 적용할 때의 현실적 장벽을 낮추는 것을 목표로 한다.
• AI.if는 단순 근사 매칭이 아니라 구체적 기준을 평가하므로, '수심 40m 방수'처럼 정밀한 조건에서 하이브리드 검색의 거짓 양성을 줄인다.
• 조건을 만족하는 제품이 없을 때 0건을 정직하게 반환하는 것은, 근사치를 보여주는 검색과 달리 신뢰할 수 있는 답을 준다는 차별점이다.

자주 묻는 질문

관련 AI 소식