AI 에이전트란? RAG·MCP·평가까지 랭체인 팀이 답한 핵심 개념 정리

핵심 메시지

• 에이전트는 도구(함수)를 호출할 수 있는 LLM이 '판단→행동→추론→반복'의 루프를 도는 것이다.
• RAG는 모델에게 오픈북 시험을 주는 것과 같아, 답하기 직전에 관련 정보를 찾아 맥락에 넣어 준다.
• MCP(모델 컨텍스트 프로토콜)는 에이전트를 위한 'USB-C'처럼, 도구 연결을 표준화한다.
• 에이전트는 오류가 누적되기 때문에 환각이 더 위험하며, 평가(evals)로 지속적으로 검증해야 한다.
• 가장 잘 만든 에이전트는 처음부터 완전 자율을 노리지 않고 사람과 역할을 나눠 고위험 행동에만 사람이 개입한다.

쉽게 이해하기

랭체인(LangChain)의 에이미와 션이 인터넷에서 가장 많이 검색된 AI 에이전트 관련 질문들에 문답 형식으로 답하는 영상이다. '에이전트란 무엇인가'부터 '이 기술이 내 일자리를 없앨까'까지 폭넓게 다룬다.

핵심 정의부터 짚는다. 에이전트는 결국 도구를 호출할 수 있는 LLM이다. 모델은 과제를 받으면 도구를 고르고, 돌아온 결과를 보고 최종 답을 내거나 다른 도구를 다시 호출한다. 이 '판단·행동·추론·반복' 루프가 에이전트를 에이전트답게 만든다.

이어 RAG는 모델에게 오픈북 시험을 주는 것에 비유된다. 공개 데이터로 학습한 모델은 회사 문서나 내부 지식은 모르기 때문에, RAG는 답하기 직전에 관련 정보를 찾아 맥락에 넣어 준다. MCP는 도구 연결을 매번 따로 만들지 않도록 표준화한 '규격 플러그'로 설명된다.

환각은 모델이 틀린 추측도 맞을 때만큼 자신 있게 말하는 데서 비롯되며, 에이전트에서는 한 단계의 잘못이 다음 단계로 번지며 증폭되어 더 위험하다고 짚는다. 그래서 단순히 사실 확인만 하고 내보낼 것이 아니라 평가(evals)로 에이전트가 제대로 동작하는지 검증해야 한다.

메모리는 단기(현재 맥락 창)와 장기(사용자 선호·지난 결정 등 지속 정보)로 나뉜다. 또 '휴먼 인 더 루프'는 고위험 행동 전에 사람의 승인을 기다리는 설계 패턴으로, 좋은 팀일수록 처음부터 완전 자율을 밀어붙이기보다 사람과 에이전트가 역할을 나눈다고 강조한다.

주요 인사이트

• 에이전트 평가는 전통적 소프트웨어와 다르다. 같은 입력에도 출력이 달라질 수 있어, 정확한 출력값을 맞추는 대신 '무엇이 좋은 결과인지'를 정의하고 LLM을 심판으로 삼아 단계별로 검증한다.
• 평가는 출시 전에 한 번이 아니라, 프롬프트를 바꾸거나 모델을 교체할 때마다 계속 돌려야 회귀(품질 저하)를 즉시 잡을 수 있다.
• 에이전트 개발 수명주기는 구축·테스트·배포·모니터링의 네 단계로 정리된다.
• 발표자들은 데모 에이전트를 만드는 일보다 '프로덕션에서 무너지지 않게 유지하는 일'이 훨씬 어렵고 중요하다고 반복해서 말한다.

자주 묻는 질문

관련 AI 소식