AI 에이전트란 무엇인가? LLM과 AI 워크플로우의 차이를 3단계로 쉽게 정리했다

핵심 메시지

• 1단계인 LLM은 입력을 받아 결과를 만들어 주지만, 개인 일정 같은 고유 정보를 모르고 사용자가 물을 때까지 가만히 기다리는 수동적 존재다.
• 2단계인 AI 워크플로우는 사람이 미리 정해둔 경로를 따라 외부 도구에서 정보를 가져온다. 정해둔 경로 밖의 질문에는 여전히 실패한다.
• 요즘 자주 쓰이는 RAG(검색증강생성)는 거창해 보이지만, 모델이 답하기 전에 외부 정보를 먼저 찾아보게 하는 AI 워크플로우의 한 종류다.
• 워크플로우가 에이전트가 되는 단 하나의 결정적 변화는 의사결정권자가 사람에서 LLM으로 바뀌는 것이다.
• 에이전트는 스스로 추론하고(Reason) 도구로 행동하며(Act), 자기 결과물을 다른 모델에게 평가시켜 기준을 만족할 때까지 반복한다.

쉽게 이해하기

'에이전틱', 'AI 에이전트'라는 말은 넘쳐나지만 설명은 지나치게 기술적이거나 겉핥기에 그치기 쉽다. 이 영상은 코딩 지식이 전혀 없는 사람도 따라올 수 있도록, 우리가 매일 쓰는 챗봇에서 출발해 진짜 AI 에이전트에 도달하는 과정을 세 단계로 쪼갠다. 각 단계를 개인 일정과 날씨라는 하나의 예시로 끝까지 밀고 나가는 방식이라 차이가 선명하게 드러난다.

1단계는 대형언어모델(LLM) 자체다. 우리가 흔히 쓰는 챗봇 서비스들은 모두 이 모델 위에 올라간 애플리케이션이다. 사람이 입력을 주면 모델은 학습한 데이터를 바탕으로 결과를 만들어 낸다. '커피 약속을 잡는 이메일을 써줘'라고 하면 평소보다 정중한 문장이 나오지만, '내 다음 커피 일정이 언제야'라고 물으면 실패한다. 여기서 두 가지 한계가 드러난다. 개인 정보나 사내 데이터 같은 고유 정보에는 접근할 수 없고, 사용자가 프롬프트를 넣을 때까지 아무것도 하지 않는 수동적 존재라는 점이다.

2단계는 AI 워크플로우다. '개인 일정을 물어보면 먼저 캘린더를 검색한 뒤 답하라'는 규칙을 심어두면 모델은 정확한 답을 내놓는다. 그러나 이어서 '그날 날씨는 어때'라고 물으면 다시 실패한다. 지시한 경로가 캘린더 검색뿐이었기 때문이다. 이것이 워크플로우의 본질로, 사람이 사전에 정의한 제어 로직만 따라갈 수 있다. 뉴스 링크를 모으고, 요약하고, 초안을 쓰고, 매일 오전 8시에 실행되도록 예약하는 자동화도 단계가 수백 개로 늘어나든 여전히 워크플로우다. 설계자가 사람이라면 에이전트의 개입은 없는 셈이다.

3단계가 AI 에이전트다. 앞의 자동화에서 사람이 한 일은 두 가지였다. 어떤 순서로 접근할지 궁리한 것, 그리고 도구를 골라 실행한 것이다. 이 두 역할을 LLM이 넘겨받는 순간 워크플로우는 에이전트가 된다. 목표만 주면 모델이 스스로 '기사를 모으는 가장 효율적인 방법은 무엇인가'를 따져보고, 사용자가 이미 연동해 둔 계정을 근거로 어떤 도구를 쓸지 판단한다. 추론(Reason)과 행동(Act)을 합친 리액트(ReAct)라는 프레임워크 이름이 여기서 나온다.

에이전트의 세 번째 특징은 자율적인 반복이다. 사람이 결과물이 마음에 들지 않아 프롬프트를 다시 쓰는 시행착오를, 에이전트는 스스로 수행한다. 자기 초안을 평가할 또 다른 모델을 워크플로우 안에 불러들여 모범 사례 기준으로 채점하게 하고, 기준을 충족할 때까지 사이클을 돌린 뒤 최종 결과물만 건넨다. 영상은 검색어를 넣으면 AI가 그 대상의 모습을 먼저 추론한 다음 방대한 영상 클립을 훑어 해당 장면을 찾아내는 데모를 예로 든다. 예전이라면 사람이 영상을 처음부터 끝까지 돌려보며 일일이 태그를 달아야 했던 작업이다.

주요 인사이트

• 용어의 위계를 잡아두면 시장의 마케팅 문구를 걸러 읽을 수 있다. 정해진 순서대로 도구를 호출하는 자동화를 '에이전트'라고 부르는 경우가 많지만, 이 기준으로 보면 그것은 워크플로우다.
• RAG를 별개의 신기술로 볼 필요가 없다는 설명이 유용하다. 답하기 전에 외부 정보를 먼저 찾아보게 하는 절차이므로, 본질적으로는 사람이 설계한 워크플로우의 한 형태다.
• 에이전트의 핵심 역량은 도구 사용 자체가 아니라 '어떤 도구를 왜 쓸지 판단하는 권한'이 모델로 넘어갔다는 데 있다. 자동화의 단계 수를 늘리는 것으로는 이 선을 넘을 수 없다.
• 자기 평가 루프는 품질을 끌어올리는 대신 비용과 시간을 늘린다. 모델이 스스로 반복한다는 것은 그만큼 호출 횟수가 늘어난다는 뜻이므로, 어떤 작업을 에이전트에게 맡길지는 선택의 문제가 된다.

자주 묻는 질문

관련 AI 소식