장기 실행 AI 에이전트 만드는 법: 수면·체크포인트·독립 평가 3원칙

핵심 메시지

• 장기 실행 에이전트는 세션을 넘어 상태를 유지하며 수 시간에서 수 주에 걸쳐 작동한다.
• 작업의 단위가 단발성 '프롬프트'에서 다단계 '워크플로우'로 바뀐다.
• 성립 조건은 셋이다: 진짜로 '잠들 수 있을 것', 매 단계 체크포인트, 자기 결과를 스스로 평가하지 않을 것.
• 에이전트는 자기 출력을 과대평가하므로 계획·생성·평가를 분리한 3-에이전트 구조가 권장된다.

쉽게 이해하기

흔히 보는 에이전트 데모는 무상태다. 묻고 답하면 대화가 끝나고, 길어야 하나의 컨텍스트 윈도우 안에서만 살다가 버려진다. 장기 실행 에이전트는 그 반대로, 세션을 넘어 상태를 유지하며 워크플로우 전체를 스스로 책임진다.

첫째 조건은 '진짜로 잠드는 것'이다. 스레드를 붙잡고 컴퓨트를 태우는 능동 폴링은 피해야 하며, 웹훅·스케줄·사람의 승인·툴 콜백 같은 외부 이벤트가 깨울 때까지 휴면 상태로 있어야 한다.

둘째 조건은 단계마다의 체크포인트다. 모든 전이에서 상태를 내구성 있게 저장해, 컨테이너가 죽거나 서버가 재배포돼도, 사람이 며칠 뒤 행동을 마치더라도 환각 없이 정확히 멈춘 지점부터 이어가야 한다. 직원 온보딩이나 대출 처리처럼 며칠이 걸리는 업무가 예다.

셋째 조건은 에이전트가 자기 일을 스스로 채점하지 않는 것이다. 같은 에이전트로 코드를 쓰고 검토하면 결과를 과신한다는 점은 Anthropic 등 여러 연구에서 일관되게 확인됐다. 그래서 계획하는 planner, 생성하는 generator, 결과를 따로 검증하는 evaluator로 역할을 나눈 구조가 최신 방식이다.

에이전트가 흔히 부딪히는 세 가지 벽은 컨텍스트 저하, 영속 상태 부재로 인한 드리프트, 자기 검증의 한계다. 이를 넘어선 돌파구로는 계획·구축·평가를 분리한 에이전트 하네스, 마크다운 계획서와 변경 로그·Ralph 루프 같은 영속 메모리 패턴, 그리고 세션과 메모리 뱅크를 제공하는 Gemini Enterprise Agent 플랫폼 같은 관리형 인프라가 꼽혔다.

주요 인사이트

• 장기 실행의 본질은 '계속 켜두기'가 아니라 '필요할 때만 깨어나는 휴면'이다.
• 내구성 있는 상태 저장 덕분에 사람이 며칠 걸려 처리하는 업무를 에이전트가 메울 수 있다.
• 품질 보증의 핵심은 생성과 평가의 역할을 분리하는 데 있다.
• 마크다운 기반의 살아 있는 계획서와 변경 로그가 장기 기억의 실용적 패턴으로 제시된다.

자주 묻는 질문

관련 AI 소식