AI 에이전트란 무엇인가 — 프롬프트·데이터·도구·메모리 네 요소로 이해하는 구조

핵심 메시지

• AI 에이전트는 두뇌(프롬프트)·데이터·도구·메모리를 갖춘 시스템으로, 사람이 매번 개입하지 않아도 스스로 일한다.
• 챗봇을 '옆 탭에서 대기하는 조수'로 쓰면 모든 결정에 사람이 개입해야 해 자동화가 안 된다.
• 에이전트는 미리 준 프롬프트로 할 일을 알고, 관련 데이터를 RAG로 가져와 판단하며, 도구(함수)로 실제 행동을 하고, 메모리로 이전 맥락을 기억한다.
• 복잡한 정의가 아니라 '해결할 문제'에서 출발하면 에이전트 구조가 훨씬 쉽게 이해된다.

쉽게 이해하기

영상은 어수선한 Gmail 받은편지함을 예로 든다. AI 이전 시대에는 '제목에 invoice가 있으면 finance로 분류' 같은 규칙으로 메일을 관리했지만, 규칙은 메일의 '의미'를 이해하지 못해 스팸이 career 라벨에 섞이는 한계가 있었다.

2022년 말 ChatGPT와 Claude의 등장으로 기계가 처음으로 텍스트의 실제 의미를 이해하게 됐다. 이제 어떤 문체의 메일이든 급한지, 칭찬인지 항의인지, 진짜 청구서인지 피싱인지 파악할 수 있다. 하지만 사람이 매번 받은편지함에서 메일을 가져와 AI에 지시해야 하니 '아무것도 자동화되지 않은' 문제가 남는다.

영상은 'AI가 스스로 받은편지함에 가서 메일을 읽고 답장까지 하면 어떨까'라는 물음에서 시스템을 하나씩 조립한다. Gmail의 전달 기능으로 새 메일을 내 시스템에 보내고, 그 안의 AI에 미리 준 프롬프트로 할 일을 정의한다. 이력서·경력 같은 개인 데이터는 프롬프트에 다 넣는 대신 필요할 때만 관련 데이터를 가져오게 하는데, 이것이 바로 RAG(검색 증강 생성) 방식이다.

AI는 생각하고 글은 쓰지만 현실 세계에서 직접 행동하지는 못한다. 그래서 '이메일 보내기'만 담당하는 함수를 따로 만들어 AI가 쓰게 하는데, 이런 함수를 현실에서 '도구(tool)'라 부른다. 마지막으로 이전 대화를 기억하는 '메모리'를 더하면, 프롬프트(두뇌)·데이터·도구·메모리를 갖춘 이 시스템이 바로 AI 에이전트다.

주요 인사이트

• 규칙 기반 필터와 에이전트의 결정적 차이는 '의미 이해'다. 규칙은 발신자나 특정 문구를 매칭할 뿐이지만, LLM은 메일의 실제 의미·긴급도·의도를 이해한다.
• 개인 데이터를 전부 프롬프트에 넣으면 프롬프트가 커져 비용이 급증한다. 대신 메일 내용과 관련된 데이터만 그때그때 가져오는 것이 RAG의 역할이다.
• AI는 텍스트를 생성할 뿐 현실 행동은 못 하므로, 이메일 전송·보관·일정 추가 같은 각 작업을 함수(도구)로 만들어 부여한다. AI는 준 도구만 쓸 수 있고 주지 않은 것은 쓰지 못한다.
• 메모리가 없으면 에이전트는 이전에 보낸 메일을 기억하지 못해, 채용 담당자가 연봉 범위를 회신했을 때 왜 그 얘기를 하는지 혼란에 빠진다. 대화 이력을 기억해야 맥락을 쌓아 제대로 답할 수 있다.

자주 묻는 질문

관련 AI 소식