AI 에이전트란 무엇인가: LLM 챗봇·자동화 워크플로와 어떻게 다른지 3단계로 정리

핵심 메시지

• 대부분의 사람은 AI를 ‘레벨 1’인 LLM 챗봇으로만 쓴다. 챗봇은 입력에 답할 뿐, 내 일정이나 상대가 누구인지 같은 맥락은 알지 못한다.
• ‘레벨 2’ 자동화 워크플로는 도구에 연결돼 미리 정한 단계를 자동 수행하지만, 계획에 없던 상황이 생기면 멈춘다.
• ‘레벨 3’ AI 에이전트는 스스로 추론해 목표에 맞는 방법을 판단하고, 예상 밖 상황에서도 결과에 이르는 길을 찾는다.
• 에이전트는 회의 준비, 메일 정리처럼 작고 반복적인 업무를 잘 처리할 때 가장 유용하며, 거기서부터 확장하는 것이 좋다.
• 안전하게 쓰려면 필요한 권한만 최소로 주고, 저위험 업무부터 시작하며, 결과를 검토한 뒤 최종 결정은 사람이 유지해야 한다.

쉽게 이해하기

“AI 에이전트”라는 말은 많이 들리지만, 몇 분만 관련 영상을 봐도 전문 용어에 압도되기 쉽다. 비기술직 대상 AI 교육을 하는 로리 왕은 자신이 처음 배울 때 있었으면 했던 설명이라며, 에이전트를 세 단계로 나눠 쉽게 풀어낸다.

레벨 1은 우리가 흔히 아는 챗GPT, 클로드, 제미나이 같은 대규모 언어모델(LLM) 챗봇이다. 입력한 프롬프트를 읽고 학습된 지식으로 답을 생성하는 데 뛰어나지만, 내 캘린더나 상대의 정보처럼 구체적 맥락은 알지 못한다. 회의 준비를 부탁해도 일반적인 조언만 돌려주는 이유다.

레벨 2는 자동화 워크플로다. 캘린더를 읽고 스프레드시트에서 데이터를 가져오거나 정해진 시간에 메일을 보내는 식으로 도구에 연결된다. 예컨대 매일 아침 그날 일정을 불러와 참석자의 링크드인 요약을 보내도록 만들 수 있다. 다만 미리 지정한 단계만 정확히 따르기 때문에, 계획에 없던 요청이 들어오면 대응하지 못한다.

레벨 3인 AI 에이전트는 워크플로가 하는 일에 더해 ‘추론’을 한다. 지시를 그대로 따르는 대신 목표를 보고 무엇이 필요한지 판단해 방법을 스스로 찾는다. 회의 준비를 맡기면 캘린더에서 상대를 확인하고 링크드인과 회사 홈페이지를 살피며, 지난 메일 스레드에서 핵심 연락처를 뽑아 2분짜리 브리핑과 대화 포인트·질문까지 만들어 메일로 보낸다. 단계별 규칙을 일일이 정해 주지 않아도 상황에 맞게 알아서 처리한다.

영상은 활용 예시로 매일 아침 상위 우선순위를 알려 주는 계획 에이전트, 메일을 분류하고 초안을 써 주는 받은편지함 에이전트, 긴 글을 짧은 요점으로 정리하는 리서치 에이전트 등을 든다. 동시에 안전한 사용 원칙도 강조한다. 권한은 꼭 필요한 것만 좁게 주고, 요약·리서치 같은 저위험 업무부터 시작하며, 메일 발송이나 결제처럼 중요한 행동 전에는 사람이 결과를 검토해 최종 결정권을 갖는다는 것이다.

주요 인사이트

• LLM 챗봇·자동화·에이전트의 결정적 차이는 ‘맥락’과 ‘추론’이다. 챗봇은 아는 것에 답하고, 워크플로는 정해진 절차를 실행하며, 에이전트는 상황을 보고 스스로 방법을 정한다.
• 자동화 워크플로의 한계는 유연성이다. 지정한 단계만 순서대로 반복하므로, 예상하지 못한 변수가 생기면 그대로 멈춘다.
• 좋은 에이전트는 작은 일을 아주 잘하는 것에서 출발한다. 회의 준비, 메일 정리, 회의록의 액션 아이템 변환처럼 반복적이고 지루한 업무가 최적의 첫 대상이다.
• 에이전트 안전 3원칙은 최소 권한, 저위험 업무 우선, 출력 검토다. 목표는 사람을 완전히 배제하는 것이 아니라, 통제권을 유지하면서 지루한 반복 작업을 덜어내는 것이다.

자주 묻는 질문

관련 AI 소식