AI 장기 메모리 정리: supermemory·Mem0·Zep·Memori로 보는 에이전트 기억 설계

핵심 메시지

• 단기 기억은 한 대화 세션 안의 맥락이고, 장기 기억은 세션이 바뀌어도 남아 필요할 때 꺼내 쓰는 저장소다.
• 랭체인은 장기 기억을 사실을 담는 의미 기억, 경험을 담는 일화 기억, 규칙을 담는 절차 기억 세 가지로 나눈다.
• supermemory가 주목받은 이유는 기억 기술 자체가 새로워서가 아니라, 여러 앱에 흩어진 기억을 하나로 통합했기 때문이다.
• Mem0와 Zep의 Graphiti는 대화에서 엔티티와 관계를 뽑아 그래프로 쌓고, 시간 정보까지 담아 “예전엔 좋아했지만 지금은 아니다”를 구분한다.
• 실무의 진짜 고민은 라이브러리 선택이 아니라 무엇을 언제 저장하고, 꺼낼 때 얼마만큼을 맥락에 넣을지 정하는 컨텍스트 엔지니어링이다.

쉽게 이해하기

영상은 19세 창업자가 AI 기억력 서비스로 300만 달러(약 42억 원) 규모 투자를 받았다는 기사에서 출발한다. 그가 만든 supermemory는 “AI가 지난주에 무엇을 했는지 모른다”, “서로 다른 환경의 작업 맥락이 공유되지 않는다”, “내가 했던 말이 그대로 사라진다”는 세 가지 문제를 앞세운다. 월 9달러 수준의 유료 플랜과 함께 무료로 200개의 기억을 저장할 수 있고, 실제 사용 기업도 적지 않다.

기억이라는 개념 자체는 새롭지 않다. 랭체인이 오래전부터 강조해 온 구분에 따르면 기억은 단기와 장기로 나뉜다. 단기 기억은 한 대화 세션 안에서 오간 여러 턴을 계속 밀어 넣어 유지하는 방식인데, 대화가 길어지면 모든 텍스트를 다 넣는 것이 비효율적이고 비용도 커지며 컨텍스트 윈도 자체를 넘기기도 한다. 그래서 최근 다섯 턴, 스무 턴처럼 필요한 만큼만 남기는 필터링이 컨텍스트 엔지니어링의 기초가 된다.

장기 기억은 사람이 뇌에 정보를 저장해 두었다가 필요할 때 꺼내 쓰는 방식에 가깝다. 랭체인은 이를 세 유형으로 나눈다. “오늘은 며칠이야” 같은 사실을 담는 의미 기억, “오늘 이런 일이 있었어” 같은 경험을 담는 일화 기억, “이 작업은 이런 원칙을 따라야 해” 같은 규칙을 담는 절차 기억이다. ChatGPT의 메모리 기능이나 최근 업데이트된 다른 챗봇들의 기억 기능이 모두 이 범주에 속한다.

Mem0는 장기 기억 하나만 보고 만들어진 서비스로, 5만 명이 넘는 개발자가 쓰고 깃허브 스타는 4만 3천 개를 넘겼다. Zep이 공개한 오픈소스 Graphiti는 스타 2만 개를 넘겼고, 대화에서 엔티티를 뽑아 관계를 엣지로 연결하는 지식 그래프 방식을 쓴다. 이때 시간 정보까지 함께 저장하기 때문에, 한 사람이 어떤 브랜드를 처음에는 좋아했다가 나중에 싫어하게 된 변화도 모순 없이 다룰 수 있다.

영상이 실습 대상으로 고른 것은 Memori다. 그래프 대신 익숙한 관계형 데이터베이스에 대화를 정리해 저장하고, 나중에 필요한 질문이 들어오면 쿼리와 시맨틱 검색으로 꺼내 맥락에 넣는다. 최근 깃허브 트렌딩에 오르며 스타 1만 개에 가까워졌고, 로컬에 기억을 저장할 수 있다는 점이 선택 이유로 꼽혔다.

주요 인사이트

• supermemory의 차별점은 기술의 새로움이 아니라 통합이다. 메모, 링크, 이미지, 영상 등 여러 앱에 흩어져 있는 “나에 대한 기억”을 한곳에 모아 여러 AI가 공유하게 만든 점이 투자로 이어졌다는 것이 영상의 진단이다.
• Memori는 설치와 적용이 간단하다. SDK를 설치하고 .env에 API 키를 넣은 뒤, 메모리 객체에서 파라미터 두 개만 켜면 대화 중 자동으로 기억이 저장되고 다시 주입된다.
• 그 두 파라미터의 성격이 다르다. conscious_ingest는 저장해 둔 기억 중 앞으로 계속 참고했으면 하는 내용을 세션 시작 시 통째로 넣어 주고, auto_ingest는 사용자의 질문에 따라 그때그때 검색해 필요한 기억만 동적으로 가져온다. 둘을 함께 켜면 고정 맥락과 동적 검색이 겹쳐 더 촘촘한 메모리 레이어가 된다.
• 실습에서는 첫 대화에서 김치찌개를 좋아한다고 말한 내용을, 세션이 바뀐 두 번째 대화에서도 모델이 알고 있는 모습을 확인한다. verbose 옵션을 켜면 여덟 개의 기억을 맥락에 주입하고 이전 메시지를 함께 넣는 과정이 로그로 드러난다.
• 결국 남는 질문은 두 가지다. 사용자의 어떤 말을, 어느 시점에, 어떤 엔티티와 관계까지 저장할 것인가. 그리고 꺼내 쓸 때 토큰을 얼마나 쓸 것인가. 좋아하는 음식이 천 개 저장돼 있다면 전부 넣을 수는 없으니, 최근성이나 선호도를 기준으로 우선순위를 정해 추려야 한다.

자주 묻는 질문

관련 AI 소식