에이전틱 AI 기술 해부: 단일 에이전트 아키텍처와 다중 에이전트 협업 프로토콜

핵심 메시지

• 에이전틱 AI는 수동적으로 반응만 하던 LLM에 자율성·목표 지향성·행동 능력을 결합한 프레임워크로, 핵심 공식은 ‘LLM + 도구 + 컨텍스트 + 계획 + 메모리’다.
• AI 에이전트가 특정 임무를 맡은 한 명의 전문가라면, 에이전틱 AI는 여러 전문 에이전트가 협력해 큰 문제를 푸는 시스템으로 ‘창발적 집단 지성’을 보인다.
• 단일 에이전트의 추론은 생각·행동·관찰을 번갈아 하는 ReAct, 그리고 계획과 실행을 분리한 Plan-and-Act 같은 아키텍처로 구현된다.
• 메모리는 RAG로 외부 최신 정보를, 행동은 함수 호출(AI가 직접 실행하지 않고 명령서를 만들어 줌)로 처리하며, 랭체인·랭그래프·크루AI 같은 오케스트레이션 계층이 전체 흐름을 지휘한다.
• 다중 에이전트는 계층적(메타GPT)·P2P 분산(오토젠) 패턴으로 협업하고 MCP·A2A 같은 프로토콜로 소통하지만, 확률적 행동·오류 전파·프롬프트 감염 등 자율성과 통제 사이의 과제를 안고 있다.

쉽게 이해하기

영상은 ‘스스로 목표를 세우고 일을 처리하는’ 에이전틱 AI가 기술적으로 어떻게 움직이는지를 단계적으로 해부한다. 기존 LLM은 글을 쓰고 이해하는 능력은 뛰어나지만, 명시적 지시 없이는 행동을 시작하지 않고 대화가 끝나면 이전 상태를 기억하지 못하는 ‘수동성’이라는 본질적 한계가 있다. 에이전틱 AI는 이 LLM을 핵심 두뇌로 쓰되 자율성·목표·행동 능력을 부여하는 프레임워크를 결합해 한계를 넘어선다.

핵심 공식은 ‘LLM + 도구 + 컨텍스트 + 계획 + 메모리’다. 이로써 LLM은 단순한 예측 엔진을 넘어 스스로 추론하고 행동하며 환경에 적응하는 지능형 에이전트가 된다. 발표자는 AI 에이전트(이메일 필터링·DB 쿼리처럼 좁고 잘 정의된 작업을 맡은 전문가)와 에이전틱 AI(여러 전문 에이전트가 협력하는 시스템)를 구분하며, 후자는 개별 능력의 합을 넘는 창발적 집단 지성을 보인다고 설명한다.

단일 에이전트의 두뇌인 LLM은 복잡한 임무를 잘게 쪼개고 전략을 세운다. 대표적 추론 프레임워크인 ReAct는 ‘생각 → 행동 → 관찰’을 번갈아 수행해 환각을 완화하지만, 행동마다 LLM을 호출해 느리고 비용이 크다. 이를 보완한 Plan-and-Act는 플래너 LLM이 큰 계획을 미리 짜고 실행자(Executor)가 처리하는 계층적 구조로, 컴퓨터 공학의 ‘관심사의 분리’ 원리와 통한다.

메모리 시스템은 컨텍스트 윈도우 한계를 보완하기 위해 RAG를 쓴다. 외부 문서를 덩어리로 나눠 임베딩으로 벡터화해 벡터 DB에 저장하고, 질문도 벡터로 바꿔 코사인 유사도로 관련 덩어리를 찾아 종합 답변을 만든다. 행동은 ‘함수 호출’로 이뤄지는데, AI가 직접 함수를 실행하는 게 아니라 자연어 요청을 컴퓨터가 이해할 명령서(JSON)로 바꿔 주면 응용 프로그램이 실행하고 결과를 돌려준다. 이 모든 흐름은 랭체인·랭그래프·크루AI 같은 오케스트레이션 계층이 지휘한다.

다중 에이전트 협업에는 중앙 관리자가 일을 나누고 합치는 계층적 패턴(메타GPT)과, 팀장 없이 동등하게 협력하는 P2P 분산 패턴(마이크로소프트 오토젠)이 있다. 에이전트 간 소통은 도구 연결을 표준화하는 MCP(모델 컨텍스트 프로토콜)와 에이전트끼리 일을 부탁·보고·협상하는 A2A 같은 프로토콜로 이뤄진다. 다만 확률적 행동으로 예측이 어렵고, 한 에이전트의 실수가 팀 전체로 번지는 오류 전파, 악의적 지시가 퍼지는 프롬프트 감염, 목표가 슬쩍 바뀌는 오브젝티브 드리프트, IAM·설명 가능성 등 ‘자율성-제어 역설’이 과제로 남는다.

주요 인사이트

• 에이전트의 능력은 두뇌인 LLM 성능만이 아니라 거기에 연결된 도구·메모리·계획 모듈을 얼마나 잘 설계·조립하느냐에 달린, 본질적으로 시스템 공학의 문제다.
• ReAct는 환각을 줄이지만 행동마다 LLM을 호출해 느리고 비싸며, Plan-and-Act처럼 계획과 실행을 분리하면 효율을 높일 수 있다.
• 함수 호출에서 AI는 직접 실행하지 않고 자연어를 명령서(JSON)로 ‘번역’하는 역할만 하며, 실제 실행과 기억은 외부 도구·벡터 DB에 맡기고 AI는 의미론적 라우터로서 흐름을 지휘한다.
• MCP·A2A 같은 표준 프로토콜의 발전은 서로 다른 회사의 AI가 자유롭게 협력하는 ‘AI들의 인터넷’ 시대로 가고 있음을 보여준다.
• 자율성과 통제는 상충하기에, 민감한 작업은 휴먼 인 더 루프(HITL) 승인, 권한 분리, 추론 과정 감사, 비평가 에이전트 같은 안전장치로 균형을 잡아야 한다.

자주 묻는 질문

관련 AI 소식