AI 에이전트 메모리 4가지 유형 — 작업·시맨틱·절차·일화 기억 쉽게 이해하기

핵심 메시지

• AI 에이전트의 메모리는 프린스턴 연구진의 CoALA(언어 에이전트를 위한 인지 아키텍처) 프레임워크에 따라 작업·시맨틱·절차·일화 네 가지로 나뉜다.
• 작업 메모리는 컨텍스트 윈도우 그 자체로, 빠르지만 휘발성이며 세션이 끝나면 사라지고 용량에도 한계가 있다.
• 시맨틱 메모리(지식)와 절차 메모리(기술)는 벡터 DB나 지식 그래프 같은 복잡한 형태가 아니라 실무에서는 종종 단순한 마크다운 파일로 구현된다.
• 일화 메모리는 과거 상호작용에서 배운 것을 압축·정제해 저장하는 것으로, 에이전트가 시간이 지나며 실제로 '학습'하는 지점이다.
• 모든 에이전트가 네 가지를 다 필요로 하는 것은 아니며, 단순 반사형 에이전트는 작업 메모리만으로 충분하다.

쉽게 이해하기

IBM 테크놀로지는 AI 에이전트가 정보를 기억하는 방식을 사람의 기억에 빗대어 설명한다. 사람에게 지금 머릿속에서 활성화된 단기 기억, 회사 보안 정책이나 '파이썬은 인터프리터 언어'와 같은 사실 지식, 거꾸로 글씨를 쓰는 것 같은 학습된 기술, 그리고 개인적 경험이 있듯이, 잘 설계된 에이전트도 비슷한 유형의 기억을 필요로 한다는 것이다.

이 분류의 근거는 프린스턴 연구팀이 제시한 CoALA(Cognitive Architectures for Language Agents) 프레임워크다. CoALA는 에이전트에 필요한 메모리를 작업(working), 시맨틱(semantic), 절차(procedural), 일화(episodic) 네 가지로 구분한다.

첫째, 작업 메모리는 에이전트의 컨텍스트 윈도우 그 자체다. 현재 대화, 시스템 지시, 프롬프트에 올라온 파일이 모두 여기에 담기는 '스크래치패드'로, 흔히 컴퓨터의 RAM에 비유된다. 빠르고 즉시 접근 가능하지만 세션이 끝나면 사라지고, 100만 토큰을 넘는 큰 윈도우라도 한계가 있어 너무 많이 채우면 중간에 묻힌 정보를 놓치며 성능이 떨어진다.

둘째, 시맨틱 메모리는 사실·규칙·관례·문서를 담는 지식 기반이다. 학술적으로는 벡터 데이터베이스나 지식 그래프로 설명되지만, 실제 프로덕션에서는 훨씬 단순한 마크다운 파일인 경우가 많다. 예컨대 Claude Code는 프로젝트 루트의 CLAUDE.md 파일에 아키텍처·코딩 관례·빌드 명령·사용할 프레임워크·하지 말아야 할 것을 적어 두고 세션마다 불러온다.

셋째, 절차 메모리는 에이전트가 '어떻게 하는지'를 아는 능력으로, skill.md라는 파일 형식을 쓰는 '에이전트 스킬'이라는 개방형 표준이 있다. 점진적 공개(progressive disclosure) 방식으로 평소에는 스킬의 이름과 설명만 가벼운 인덱스로 두고, 작업이 들어오면 전체 지시를 불러오며 참조 파일은 실행 중 필요할 때만 끌어온다. 넷째, 일화 메모리는 과거 상호작용과 거기서 배운 교훈의 기록으로, 전체 대화록을 통째로 저장하기보다 '지난번 인증 모듈 디버깅 때 문제는 미들웨어에 있었다'처럼 미래에 쓸모 있을 내용을 정제해 남긴다.

주요 인사이트

• 작업 메모리는 모든 챗봇에도 있는 컨텍스트 윈도우와 같다. 챗봇과 에이전트를 진짜로 가르는 것은 시맨틱·절차·일화처럼 세션을 넘어 지속되는 기억이다.
• 시맨틱 메모리는 항상 컨텍스트에 존재하는 반면, 절차 메모리(스킬)는 필요할 때만 로드된다. 이 차이가 컨텍스트 윈도우 예산을 아끼는 핵심이다.
• 일화 메모리의 가장 어려운 문제는 '무엇을 잊을 것인가'다. 사람은 잘 잊지만 에이전트에게 망각은 풀어야 할 엔지니어링 과제다. 사용자가 직장을 옮기면 옛 프로젝트 기억을 남길지 지울지 결정해야 한다.
• 에이전트의 복잡도에 따라 필요한 메모리가 다르다. 온도조절기 같은 반사형 에이전트는 작업 메모리만, 비밀번호 재설정 봇은 작업+절차, 코딩 에이전트는 네 가지 모두를 필요로 한다.
• 좋은 메모리 아키텍처는 실수까지 기억해 같은 잘못을 반복하지 않게 한다. 응답을 주는 것을 넘어 지속적 지식과 누적된 경험으로 다듬어진 응답을 주는 것이 에이전트의 본질이다.

자주 묻는 질문

관련 AI 소식