랭체인(LangChain) 입문: AI 에이전트·챗봇을 쉽게 만드는 프레임워크

핵심 메시지

• 랭체인은 LLM·메모리·도구·벡터DB·RAG를 미리 만들어진 컴포넌트로 제공해, AI 에이전트를 최소한의 코드로 만들게 해주는 추상화 계층이다.
• LLM은 학습된 지식으로 답하는 정적인 두뇌인 반면, 에이전트는 메모리와 도구를 갖고 스스로 판단해 작업을 수행하는 자율성을 가진다.
• 전통적 소프트웨어는 코드로 정해진 순서·조건에 따라 실행되지만, 랭체인 기반 에이전트는 컴포넌트를 받아 어떻게 쓸지 스스로 결정한다.
• `LLM = ChatOpenAI`를 `ChatAnthropic`으로 한 줄만 바꾸면 모델 제공사를 교체할 수 있어, 특정 벤더에 묶이지 않는다.
• LCEL(랭체인 표현 언어)은 파이프 연산자로 프롬프트→모델→파서를 우아하게 연결해 스트리밍·비동기·배치·타입 안정성을 제공한다.

쉽게 이해하기

회사 웹사이트에 고객 질문에 답하는 챗봇을 만든다고 하자. 단순히 OpenAI SDK로 호출만 해서는 부족하다. 대화 기록을 저장하고, 회사 내부 지식베이스를 근거로 답하며, 나중에 모델 제공사를 바꿀 수 있어야 한다. 이 모든 요구를 직접 구현하면 거대한 작업이 된다. 랭체인은 바로 이런 고충을 라이브러리로 해결해 주는 추상화 계층이다.

여기서 LLM과 에이전트의 차이를 이해하는 것이 중요하다. OpenAI GPT, 앤트로픽 클로드, 구글 제미나이 같은 LLM은 학습 시점의 지식으로 답하는 '정적인 두뇌'에 가깝다. 반면 에이전트는 메모리와 도구를 갖고, 의도 파악·벡터DB 검색·내부 데이터 조회·답변 생성·대화 기록 활용까지 스스로 판단해 수행하는 자율성을 가진다.

전통적 소프트웨어와 에이전트 소프트웨어의 가장 큰 차이는 실행 방식이다. 전통적 코드는 정해진 순서나 조건에 따라 동작하지만, 랭체인에서는 기능을 컴포넌트로 개발해 에이전트에게 건네주고, 에이전트가 작업을 위해 그 능력을 어떻게 쓸지 결정한다. 랭체인은 이런 컴포넌트를 다수 미리 제공한다.

실용적으로는 텍스트 임베딩, 벡터DB(파인콘·크로마 등) 저장, 시맨틱 검색, 프롬프트 주입, 상태·메모리·도구 관리까지 직접 짜야 할 코드를 라이브러리 모듈로 대체한다. 예컨대 벡터DB는 Chroma, 임베딩은 OpenAIEmbedding, 대화 메모리는 ConversationBufferMemory 같은 모듈을 가져다 쓴다. 실습 랩에서는 가상환경 구성부터 프롬프트 템플릿, 멀티 LLM 연결, 메모리, RAG, 그라디오 UI 배포까지 단계별로 챗봇을 완성한다.

주요 인사이트

• 랭체인의 핵심 가치는 '벤더 독립성'이다. OpenAI에서 앤트로픽으로 바꾸는 일이 전체 재작성이 아니라 한 줄 변경으로 끝난다.
• 프롬프트 템플릿은 변수 치환으로 프롬프트를 재사용하게 하며, few-shot 예시를 주면 모델이 패턴을 학습해 새 입력에 적용한다.
• temperature를 0으로 두면 일관되고 정확한 답을, 높이면 창의적인 답을 얻는다. 빠른 모델·추론 모델·코딩 전문 모델처럼 용도별 인스턴스를 나눌 수 있다.
• RAG는 문서를 청크로 나눠 임베딩 후 벡터DB에 저장하고, 질문이 오면 관련 정보를 검색해 답변에 반영하는 방식으로 챗봇을 실제 지식과 연결한다.
• 랭체인의 확장인 랭그래프(LangGraph)는 워크플로 자동화를 더 강하게 지원하며 랭체인과 상호 연동된다.

자주 묻는 질문

관련 AI 소식