에이전틱 프로그래밍 쉽게 이해하기 — 멀티에이전트 설계와 컨텍스트 엔지니어링, 비용까지

핵심 메시지

• 기존 프로그래밍은 입력에 대해 예상한 출력이 그대로 나오는 구조라면, AI를 붙인 프로그래밍은 결과를 스스로 생각해 내는 두뇌가 생긴 셈이다.
• 하나의 기능을 담당하는 AI가 에이전트이고, 여러 에이전트가 맞물려 돌아가는 프로그램이 멀티에이전트다.
• 한 번의 요청으로 원하는 결과를 얻으려 하기보다, 사람이 일하는 사고의 흐름을 단계별 에이전트로 쪼개는 편이 결과가 좋다.
• 에이전트마다 필요한 성능이 다르므로 모델도 다르게 골라 써야 API 비용을 통제할 수 있다.
• 모든 에이전트에 모든 맥락을 다 주면 토큰도 많이 들고 AI도 어디에 집중할지 모르게 되므로, 무엇을 강조해 전달할지 설계해야 한다.

쉽게 이해하기

AI 관련 용어가 쏟아지지만 정작 에이전틱 프로그래밍이 무엇인지 감을 잡기는 쉽지 않다. 개발 교육 채널을 운영하는 진행자는 먼저 기존 프로그래밍과의 차이부터 짚는다. 인스타그램에 게시물을 올리면 그 글이 그대로 올라가고, 쇼핑몰에 상품을 등록하면 그 상품이 그대로 등록되는 것처럼 종래의 프로그램은 입력에 대해 예측 가능한 출력을 낸다. 반면 AI가 들어간 프로그램은 어울릴 만한 옷을 추천해 달라거나 자료를 해석해 달라는 요청에 스스로 판단해 답을 만든다. 결과가 매번 같지 않다는 통제되지 않는 변수는 생기지만, 대신 만들 수 있는 프로그램의 범위가 크게 넓어졌다.

이 두뇌를 심는 통로가 오픈AI, 제미나이, 클로드 같은 LLM API다. 그런데 문제가 하나 있다. 모델은 사용자의 속마음까지 알지 못하기 때문에, 내가 누구이고 어떤 스타일을 좋아하는지 모르는 상태에서는 제대로 된 추천을 하기 어렵다. 그래서 요청 전에 필요한 정보를 정리해 알려 줄 별도의 AI가 필요해진다. 이렇게 하나의 기능을 맡는 AI가 에이전트이고, 이런 에이전트로 돌아가는 프로그래밍을 에이전틱 프로그래밍, 한 프로그램 안에 에이전트가 여럿 들어간 구조를 멀티에이전트라고 부른다.

설명은 진행자 본인의 프로젝트로 이어진다. 유튜브 대본을 자동으로 써 주는 프로그램을 만들려고 API에 곧바로 'IT 주제를 추천하고 그에 맞는 대본을 써 달라'고 요청했지만 결과는 실망스러웠다. 채널에서 다룰 만한 주제도 아니었고, 본인이 말할 법한 대본도 아니었으며, 환각도 심했다. 그래서 단계를 쪼개기 시작한다. 우선 구독자 수와 시청자층, 주요 주제, 실제 영상에서의 말투 같은 정보를 넣어 자신을 분석하게 하는 페르소나 분석 에이전트를 만들었고, 그 분석 결과를 넘겨받은 주제 추천 에이전트를 붙이자 훨씬 정확한 주제가 나왔다.

글쓰기도 마찬가지였다. 곧바로 쓰게 했더니 공감으로 시작해 실제 예시를 보여 주고 쉽게 설명하는 자신의 흐름을 전혀 반영하지 못한 채 딱딱한 전문가 문체가 나왔다. 그래서 어떤 앵글로 쓸지와 챕터 구성을 먼저 짜는 계획 에이전트, 계획에서 나온 키워드로 자료를 모아 환각을 줄이는 리서치 에이전트, 무난하기만 한 글에 날을 세우는 인사이트 에이전트, 실제로 글을 쓰는 글쓰기 에이전트, 마지막으로 리서치 자료와 대조해 어긋난 내용을 고치는 검증 에이전트까지 붙였다. 사고의 흐름을 파이프라인으로 정리하고 나서야 원하는 결과물이 나왔다는 것이 요지다.

마무리로 멀티에이전트를 만들 때 중요한 네 가지가 제시된다. 에이전트마다 맞는 모델 고르기, 컨텍스트 엔지니어링, 에이전트 오케스트레이션, 그리고 비용이다. 오케스트레이션은 페르소나 분석이 끝나면 주제 추천이 호출되고 그다음 계획 에이전트가 이어지는 식으로 흐름을 관리하는 일인데, 다음에 무엇을 부를지가 내용에 따라 달라지거나 중간에 실패했을 때 어떻게 처리할지도 여기에 포함된다. 용어는 거창하지만 랭그래프 같은 라이브러리를 쓰면 흐름 관리 자체는 어렵지 않다고 설명한다.

주요 인사이트

• 한 번의 프롬프트로 좋은 결과를 못 얻었을 때의 해법이 더 좋은 프롬프트가 아니라 단계 분할이라는 점이 핵심이다. 사람이 일할 때 거치는 판단의 순서를 그대로 에이전트로 옮기는 것이 설계의 출발점이 된다.
• 환각을 줄이는 장치가 모델 교체가 아니라 리서치 에이전트라는 점도 눈에 띈다. 먼저 근거 자료를 찾아 두고 그 자료를 바탕으로 쓰게 한 뒤, 마지막에 자료와 글을 대조하는 검증 단계를 하나 더 두는 구조다.
• 컨텍스트 엔지니어링을 '맥락 관리'로 풀어낸 설명이 직관적이다. 페르소나 정보 전체를 모두에게 주는 대신, 주제 추천에는 채널 카테고리를, 인사이트 에이전트에는 주로 쓰는 패턴을, 글쓰기 에이전트에는 말투를 강조해 준다.
• 모델 선택이 곧 비용 설계다. 간단한 초안만 내면 되는 계획 단계에는 저렴한 모델을, 기사 전체를 읽고 분석해야 해 입력량이 많은 리서치 단계에는 더 큰 모델을 쓰는 식으로 역할별로 나눠 쓰라고 권한다.
• 혼자 쓰는 도구가 아니라 여러 사용자가 쓸 서비스를 전제로 하면 비용은 피할 수 없는 설계 변수다. 요청 하나당 얼마가 드는지, 그것을 어떻게 줄일지 늘 생각하라는 조언으로 마무리된다.

자주 묻는 질문

관련 AI 소식