AI 에이전트 완전정리: LLM 호출·워크플로·RAG·멀티에이전트의 차이

핵심 메시지

• 대부분의 에이전트 데모는 한 번은 되지만 실제 업무에 붙이면 무너진다. 데모와 실전의 차이는 도구, 상태, 평가, 한계 설정 같은 소수의 요소에서 갈린다.
• 목표는 '더 많은 에이전트'가 아니라 '완료된 작업'을 늘리는 것이다. 항상 작업을 끝낼 수 있는 가장 단순한 시스템에서 시작해야 한다.
• LLM 단일 호출, 코드로 정의된 고정 워크플로, 그리고 에이전트는 서로 다르다. 자율성이 커질수록 비용과 실패 위험도 함께 커진다.
• RAG에서는 검색 품질이 프롬프트 문구보다 더 중요하다. 올바른 문서를 못 찾으면 아무리 좋은 모델도 틀린 답을 낸다.
• 프롬프트 인젝션, 도구 오용, 잘못된 메모리 같은 위험이 있으므로 최소 권한, 입출력 검증, 사람의 승인, 샌드박스·로그가 필요하다.

쉽게 이해하기

발표자 아나스 리아드는 에이전트가 실제로 어떻게 작동하는지를 처음부터 끝까지 쉬운 말로 풀어낸다. 먼저 일반 LLM 호출(상태 없는 한 번의 요청-응답), 코드로 단계를 고정한 워크플로(예측 가능하고 테스트하기 쉬움), 그리고 모델이 다음 행동을 스스로 고르고 도구를 쓰며 결과를 관찰해 목표에 도달할 때까지 반복하는 에이전트를 구분한다. 멀티에이전트는 역할과 컨텍스트가 분리된 여러 전문 에이전트가 협업하는 것으로, 작업이 명확히 나뉠 때만 쓴다.

에이전트는 질문이 아니라 목표를 받는다. 단순히 답만 하는 것이 아니라 도구로 행동을 취하고 결과를 관찰하며 상태를 갱신하고 다음 할 일을 정한다. 예약 에이전트라면 검색·비교·예약 준비까지 하고, 결제 같은 민감한 단계 앞에서는 사람의 승인을 요청한다. 에이전트 시스템에는 모델, 지시(규칙·성공 기준), 도구, 상태·메모리, 검색, 통제·평가가 필요하다.

도구는 모델이 호출할 수 있는 함수·API·서비스이며, 명확한 이름·설명·타입이 지정된 인자가 필요하다. 도구가 많아지면 모델이 잘못된 도구를 고르거나 공격 표면이 넓어질 수 있어 에이전트는 오히려 전문화되어야 한다. 메모리는 대화 상태, 작업 메모리, 장기 메모리, 외부 상태로 나뉘며, 장기 메모리는 목적을 갖고 저장·검색해야 하고 모든 것을 저장해서는 안 된다.

RAG는 회사 내부 데이터로 답하게 하는 방법이다. 지식베이스를 청크로 나눠 임베딩 모델로 벡터 데이터베이스에 저장하고, 사용자 질의에 맞는 청크를 찾아 그 근거로 답을 생성한다. 검색은 임베딩뿐 아니라 키워드·필터·SQL·하이브리드로도 이뤄진다. 발표자는 검색 품질이 프롬프트 문구보다 중요하다고 강조하며, 올바른 문서를 못 찾으면 존재하는 정보도 쓸 수 없다고 말한다.

오케스트레이션은 무엇을 어떤 순서로 실행할지 정하고 단계별 상태를 추적하며 재시도·타임아웃·한계를 적용하고 필요할 때 승인을 위해 멈춘다. 발표자는 프롬프트 체이닝, 라우팅, 병렬화(섹셔닝·투표), 평가자-최적화기 같은 패턴과 LangGraph·CrewAI·AutoGen·OpenAI/Claude Agent SDK 같은 프레임워크를 소개한다. 마지막 데모에서는 로컬 LLM(Qwen 3)으로 RAG, 단일 에이전트(도구 3개), 리서처-작가 멀티에이전트를 차례로 보여준다.

주요 인사이트

• 복잡성은 결과로 그 값어치를 증명해야 한다. 발표자는 단일 모델 호출 → 지식이 필요하면 RAG → 행동이 필요하면 도구 → 단계가 정해지면 고정 워크플로 → 필요할 때만 메모리 → 경로를 미리 정할 수 없을 때 에이전트 → 작업이 명확히 나뉠 때만 멀티에이전트라는 단계적 도입을 권한다.
• 멀티에이전트가 기본값은 아니다. 단일 에이전트가 더 단순하고 지연이 낮으며 디버깅·추적이 쉽다. 전문화·컨텍스트 분리·병렬 작업이 '측정 가능한 이득'을 낼 때만 여러 에이전트를 쓴다.
• 작업 비용은 모델 호출 + 도구 비용 + 인프라의 합이며, 토큰당 비용이 아니라 '완료된 작업당 비용'을 지표로 삼아야 한다. 캐싱, 작은 모델, 배치, 루프 제한, 조기 종료가 비용을 줄인다.
• 가장 위험한 조합은 민감한 데이터 + 신뢰할 수 없는 입력 + 외부 행동이 겹칠 때다. 웹페이지나 이메일 첨부에 숨은 지시(프롬프트 인젝션)를 에이전트가 명령으로 오인할 수 있어, 최소 권한·입출력 검증·사람의 승인·샌드박스와 모든 도구 호출 로깅이 필요하다.
• 평가에는 추적(trace)이 필수다. 목표·선택된 도구·전달된 인자·도구 결과·재시도·승인 요청·최종 출력을 모두 기록해야 무엇이 어디서 깨졌는지 알 수 있다.

자주 묻는 질문

관련 AI 소식