랭체인(LangChain) 에이전트 AI 크래시 코스: 생성형 AI·RAG·에이전트 정리

핵심 메시지

• 생성형 AI는 트랜스포머 구조에 기반해 다음 토큰을 확률적으로 예측하는 방식으로 텍스트·이미지·코드 같은 새 콘텐츠를 만든다.
• temperature, top-K, top-P, 컨텍스트 윈도우 같은 매개변수가 LLM 출력의 창의성과 한계를 좌우한다.
• RAG(검색 증강 생성)는 문서를 청크로 나눠 임베딩한 뒤 의미 기반으로 관련 부분만 찾아 LLM에 넣어, 환각을 줄이고 비용을 아낀다.
• AI 에이전트는 LLM(두뇌)에 도구·지식·메모리를 더해 여러 단계를 자율적으로 계획·실행하는 프로그램이다.
• 랭체인은 적은 코드로 에이전트와 RAG 애플리케이션을 만들 수 있는, 채용 공고에서도 자주 요구되는 대표 프레임워크다.

쉽게 이해하기

이 강의는 이론과 실습을 함께 다루며, 마지막에 두 개의 프로젝트로 마무리한다. 하나는 이미지 검색까지 되는 아마존 루퍼스(Rufus) 스타일의 쇼핑 에이전트, 다른 하나는 CSV·SQLite·PDF 세 가지 출처를 쓰는 텔레콤 RAG 챗봇이다. 두 프로젝트 모두 Streamlit으로 UI를 붙이며, 전제 조건은 기초 파이썬 지식뿐이다.

먼저 생성형 AI와 LLM의 기초를 짚는다. '주의가 전부다(Attention is all you need)' 논문의 트랜스포머 구조 위에서 모델은 다음 토큰을 확률적으로 예측한다. 강의는 이를 들은 대화를 흉내 내는 '스토캐스틱 패럿(확률적 앵무새)'에 비유하고, RLHF로 독성을 줄이는 과정을 설명한다. 또 temperature(창의성), top-K, top-P, 컨텍스트 윈도우 같은 매개변수의 의미를 차례로 풀어준다.

강의는 '워크플로'와 '에이전트'를 명확히 구분한다. 혈액검사 결과를 분석하는 예제처럼 LLM을 단계별로 정해진 순서로 호출하면 워크플로이고, LLM이 스스로 어떤 도구를 부를지 결정하면 에이전트다. 이 차이를 이해하는 것이 강의 전반의 토대가 된다.

RAG는 큰 문서를 통째로 컨텍스트에 넣을 수 없다는 문제에서 출발한다. 문서를 오버랩을 둔 청크로 나누고 임베딩해 Chroma 같은 벡터 DB에 저장하는 인덱싱 단계, 질문을 임베딩해 의미로 관련 청크를 찾는 검색(retrieval) 단계로 이뤄진다. 관련 청크만 프롬프트에 넣으므로 환각이 줄고 토큰 비용도 아낄 수 있다.

마지막으로 에이전트 실습이 이어진다. create_agent로 도구를 등록하고, 함수의 독스트링을 보고 LLM이 어떤 도구를 쓸지 스스로 고른다. 메모리는 InMemorySaver와 세션을 뜻하는 thread_id를 넘기는 것만으로 추가된다. 멀티 에이전트·멀티모달 개념과, 에이전시 수준(ChatGPT → Zapier → 클로드 코드 → 오픈클로)이 올라갈수록 예측 가능성이 낮아진다는 점, 그리고 reason+act로 도는 'react 루프'도 다룬다.

주요 인사이트

• 도구 선택은 함수의 독스트링(docstring)을 LLM이 읽고 판단한다 — 수백 개 도구가 있어도 설명만 명확하면 적절한 도구를 스스로 고른다.
• '워크플로'와 '에이전트'의 차이는 LLM이 자율적으로 다음 행동을 결정하느냐에 있으며, 자율성이 커질수록 예측 가능성은 낮아진다.
• 벡터 DB는 정확한 값이 아니라 '의미'로 검색한다 — 문서에 '일론 머스크'가 없어도 테슬라·스페이스X를 찾아내는 것이 임베딩의 힘이다.
• 메모리 추가는 에이전트 생성 시 체크포인터(InMemorySaver)와 세션을 뜻하는 thread_id를 넘기는 것만으로 끝날 만큼 간단하다.

자주 묻는 질문

관련 AI 소식