LangChain이란 무엇인가 — AI 에이전트 프레임워크·메모리·상태 관리 핵심 정리

핵심 메시지

• LangChain은 AI 에이전트를 더 빠르게 만들도록 빌딩 블록과 추상화를 제공하는 프레임워크로, LLM·프롬프트·도구·메모리를 하나로 연결(체인)한다.
• 모델 추상화 덕분에 OpenAI·Gemini 등 서로 다른 LLM을 모델별 코드 없이 이름만 지정해 갈아 끼울 수 있어 모델에 종속되지 않는다.
• 메모리는 목적에 따라 대화 버퍼·윈도우·요약·벡터 저장·엔티티·커스텀의 여섯 유형으로 나뉘며, 애플리케이션에 맞는 유형을 골라 써야 한다.
• 상태 관리는 각 단계의 입력·출력과 진행 상황을 저장·갱신·공유해, 맥락을 기억하는 신뢰할 수 있는 에이전트의 근간이 된다.
• LLM이 '두뇌'라면 LangChain은 그 두뇌에 기억·도구·연결을 붙여 실제로 일을 해내게 만드는 '자동차 프레임' 같은 역할을 한다.

쉽게 이해하기

이 영상은 AI 에이전트 시리즈의 한 편으로, LangChain이 정확히 무엇이고 왜 필요한지를 입문자 눈높이에서 설명한다. 프레임워크 없이 AI 에이전트를 만들면 여러 라이브러리를 붙이고 많은 코드를 직접 써야 하지만, LangChain은 그에 필요한 빌딩 블록과 추상화를 제공해 개발을 훨씬 빠르게 해 준다.

LangChain이 제공하는 것들은 구체적이다. 모델 추상화(모델별 연결 코드 대신 어떤 모델을 쓸지만 지정), 프롬프트 템플릿, 여러 방식의 메모리 관리, API·데이터베이스 등 도구와의 통합, 그리고 LLM·프롬프트·도구·메모리를 하나로 잇는 '체인'이다. ReAct, OpenAI functions, plan-and-execute 같은 미리 만들어진 에이전트와 벡터 DB 기반 정보 검색, 실행을 추적하는 콜백·관측(observability)도 포함된다.

메모리는 이 영상이 특히 강조하는 주제다. 대화 전체를 기억하는 대화 버퍼 메모리, 최근 몇 개(예: 4개)만 남기는 버퍼 윈도우 메모리, 대화를 요약해 저장하는 요약 메모리, 메시지를 임베딩해 벡터 DB에 넣고 질의와 가장 관련 있는 것만 꺼내는 벡터 저장 메모리, 사람·장소 같은 개체 정보를 뽑아 기억하는 엔티티 메모리, 무엇을 언제 어떻게 저장할지 사용자가 정하는 커스텀 메모리로 나뉜다.

상태 관리(state management)는 에이전트가 여러 단계를 거칠 때 각 단계의 상태와 결과를 기억하게 해 준다. 사용자가 정보를 주면 데이터를 불러오고 처리한 뒤 상태를 갱신해 저장하는 흐름이 반복되며, 예컨대 '내 이름은 Alex' '베를린에 산다'는 입력이 차곡차곡 상태로 쌓인다. LangChain은 이를 내장 기능으로 제공해 추가 코드 없이 쓸 수 있다.

마지막으로 LLM과 LangChain의 차이를 정리한다. LLM은 방대한 데이터로 학습해 자연어를 입력받아 텍스트를 생성하는 '원천 지능'이고, LangChain은 그 LLM을 외부 데이터·도구·메모리·워크플로와 연결하는 프레임워크다. LLM이 엔진이라면 LangChain은 자동차 프레임, LLM이 생각한다면 LangChain은 그것을 쓸모 있게 만든다는 비유로 설명한다.

주요 인사이트

• LangChain을 쓰는 이유는 빠른 개발, 모듈성과 유연성, 프로덕션 준비, 확장성(에이전트끼리 연결), 모델 비종속성, 그리고 입력·출력을 관측해 개선하는 능력으로 요약된다.
• 메모리 유형은 만능이 아니다. 문제 유형마다 적합한 메모리가 다르므로, 모든 유형을 다 쓰기보다 애플리케이션의 요구에 맞는 하나를 골라야 한다.
• 벡터 저장 메모리는 각 메시지를 임베딩해 점수를 매겨 저장하고, 현재 질의와 가장 관련 있는 정보만 검색해 오는 방식이라 RAG 형태의 활용과 자연스럽게 맞닿는다.
• 관측성 관점에서 LangChain은 실행마다 입력·출력, 로깅, 스트리밍, 토큰 사용량까지 기록한다. 토큰 소비량 추적은 비용 관리에 중요한 정보다.
• 체인이라는 이름은 LLM에 프롬프트를 주고 도구와 메모리를 붙여 여러 구성 요소를 사슬처럼 연결한다는 데서 나왔으며, 이 연결이 최종 출력이 나올 때까지 반복(iteration)된다.

자주 묻는 질문

관련 AI 소식