에이전틱 AI 아키텍처 정리: 에이전트 루프, 메모리, 임베딩, 벡터DB, RAG, 멀티에이전트

핵심 메시지

• 에이전틱 AI 시스템은 텍스트만 생성하는 언어 모델이 아니라 추론·계획·도구·메모리가 함께 목표를 달성하는 협응 구조다.
• 핵심 동작 원리는 생각→계획→실행→관찰→성찰을 반복하는 에이전트 루프이며, 챗봇이 한 번 답한다면 에이전트는 일이 끝날 때까지 반복한다.
• 메모리는 대화 맥락을 담는 단기 기억과 벡터DB에 저장되는 장기 기억으로 나뉘어, 에이전트가 매번 0에서 시작하지 않게 한다.
• 임베딩은 의미를 고차원 벡터로 바꾸고, 벡터DB는 이를 대규모로 저장·유사도 검색해 RAG와 장기 기억의 토대가 된다.
• RAG는 한 번의 검색-생성으로 지식을 보강하는 선형 구조이고, 에이전틱 시스템은 반복적으로 추론과 행동을 조율하며 RAG를 하나의 도구로 품을 수 있다.

쉽게 이해하기

영상은 에이전틱 AI 시스템의 고수준 아키텍처를 설명한다. 모든 시스템은 사용자 프롬프트·API 호출·예약 이벤트 같은 목표에서 출발한다. 이 목표는 곧바로 답으로 이어지지 않고, 추론 엔진인 대형 언어 모델(LLM)이 단일 작업인지 여러 단계가 필요한지, 외부 데이터가 필요한지를 해석한다. LLM은 지능을 제공하지만 실행은 하지 않는다.

더 발전한 시스템에는 계획 계층이 있어 복잡한 목표를 "데이터 조회 → 분석 → 요약 생성 → 이메일 발송"처럼 작은 단계로 분해한다. 그 다음 도구(tools)가 데이터베이스 질의, REST API 호출, CRM 갱신, 이메일 발송 등을 통해 실제 세계와 상호작용한다. 도구가 없으면 LLM은 텍스트만 만들 수 있지만, 도구가 있으면 행동할 수 있다.

이 시스템을 자율적으로 만드는 것은 에이전트 루프다. 생각(현재 상태와 필요를 파악)→계획(다음 최선의 행동 선택)→실행(도구 호출)→관찰(도구 출력을 피드백으로 읽음)→성찰(완료·계속·복구 중 결정)을 반복한다. 특히 오류 시 재시도하거나 다른 도구를 고르는 복구 능력이 단발성 프롬프트보다 실제 업무에서 앞서는 이유다.

메모리는 에이전트를 반응형에서 지능형으로 바꾼다. 단기(작업) 메모리는 대화 이력과 중간 도구 출력, 작업 진행 상태를 담고, 장기 메모리는 세션을 넘어 지속되며 보통 임베딩으로 벡터DB에 저장된다. 새 질의가 오면 임베딩으로 바꿔 유사도 검색으로 관련 과거 기억을 찾아 프롬프트에 주입한다.

임베딩은 의미를 수백~수천 차원의 벡터로 인코딩하며, 키워드가 아니라 의미의 좌표다. 벡터DB는 이런 고차원 벡터를 메타데이터와 함께 저장하고 코사인 유사도·유클리드 거리로 최근접 이웃 검색을 수행하며, HNSW·IVF 같은 근사 인덱싱으로 대규모에서도 밀리초 단위로 검색한다. RAG는 질의를 임베딩해 문서를 찾아 프롬프트에 넣고 답을 생성하는 흐름이다.

주요 인사이트

• 챗봇과 에이전트의 근본 차이는 반복이다. RAG는 선형(검색 후 생성)인 반면 에이전틱 시스템은 반복적으로 추론과 행동을 조율한다. 둘은 경쟁 관계가 아니라 RAG가 에이전트의 한 도구로 편입되는 위계 관계다.
• 좋은 메모리 설계는 정밀도·개인화·효율을 높이지만, 무엇을 저장·망각할지와 토큰 한계, 낡거나 잘못된 기억이 결정에 끼어드는 문제를 잘못 다루면 성능 저하나 환각을 부른다.
• 임베딩은 정확한 단어가 아니라 의미로 검색하게 해, 정책 문서·지식베이스·지원 티켓·이메일 기록·CRM 메모 같은 비정형 데이터에서 가치를 끌어낸다.
• 단일 에이전트는 구축·디버깅이 쉽지만 복잡한 작업에서 과부하가 걸리고, 멀티에이전트는 역할을 전문화해 확장성을 얻는 대신 오케스트레이션과 모니터링 복잡도가 커진다.

자주 묻는 질문

관련 AI 소식