딥 에이전트 구조 해부: 시스템 프롬프트, 할 일 목록, 파일 시스템, 서브 에이전트

핵심 메시지

• 딥 에이전트는 몇 분 안에 끝나는 단발 작업이 아니라, 여러 단계를 거쳐 오래 이어지는 작업을 겨냥한 설계다.
• 여러 시스템을 뜯어보면 상세한 시스템 프롬프트, 할 일 목록 도구, 파일 시스템, 서브 에이전트라는 네 가지 공통 요소가 나온다.
• 할 일 목록 도구는 실제로 아무 일도 하지 않는다. 계획을 대화 맨 앞으로 계속 끌어올려 모델이 목표를 놓치지 않게 만드는 장치다.
• 서브 에이전트는 각자 독립된 컨텍스트에서 일하고 최종 답만 돌려주므로, 중간 과정이 본체의 맥락을 오염시키지 않는다.
• 성능에는 값이 따른다. 시연에 쓴 경쟁 분석 에이전트는 35분 한 번 실행에 약 9달러가 들었다.

쉽게 이해하기

발표자 애덤 루섹은 구글 제미나이의 딥 리서치에서 시작해 챗GPT와 클로드, 그리고 클로드 코드나 커서 같은 코딩 도구로 퍼진 흐름을 '딥 에이전트'라 부른다. 핵심은 한두 번의 호출로 끝나는 얕은 구조에서 벗어나, 몇 분을 넘어 여러 단계에 걸쳐 진행되는 장기 과제를 다루는 것이다. 그는 초기 모델이 위키백과 조사나 단어 세기처럼 사람에게도 금방인 일을 해냈다면, 이후에는 데이터 중복 제거나 도커 컨테이너 설정처럼 사람 기준으로도 시간이 걸리는 일까지 범위가 넓어졌다고 정리한다.

첫 번째 부품은 시스템 프롬프트다. 그는 클로드 코드의 시스템 프롬프트가 도구 설명을 빼고도 약 191줄이며, 이런 시스템들이 대체로 200줄 안팎의 프롬프트에 어조, 스타일, 행동, 도구 사용 지침을 함께 담는다고 관찰했다. 흥미로운 점은 예시 사용법이다. 너무 정확한 예시를 넣으면 모델이 그것을 그대로 흉내 내기 때문에, 앞으로의 행동을 가리키는 느슨한 형태의 예시가 더 낫다는 것이다. 도구 설명에는 언제 써야 하는지뿐 아니라 언제 쓰면 안 되는지까지 넣는 방식이 거의 모든 시스템에서 발견된다고 한다.

두 번째와 세 번째는 컨텍스트를 다루는 장치다. 계획을 처음에 한 번 세워두면 대화가 길어질수록 묻히기 때문에, 할 일 목록 도구로 진행 중인 항목과 끝난 항목을 계속 갱신해 목표를 화면 앞쪽으로 끌어올린다. 발표자는 이것이 사실상 어텐션 메커니즘을 이용하는 요령이며 도구 자체는 아무 동작도 하지 않는다고 짚는다. 파일 시스템은 다른 각도의 해법이다. 방대한 내용을 컨텍스트 창에 계속 담아두는 대신 파일로 쓰고, 대화에는 경로나 식별자만 남긴 뒤 필요할 때 다시 열어 불러온다.

네 번째는 서브 에이전트다. 미리 정해둔 에이전트들을 조율하는 감독자 방식과 달리, 본체가 필요할 때 즉석에서 전문 하위 작업을 만들어 위임하고 최종 답만 돌려받는 구조다. 각 서브 에이전트는 자기 컨텍스트 안에서만 움직이므로 전체 시스템 프롬프트에 오염되지 않고, 중간 단계 전부가 본체로 되돌아오지도 않는다. 여러 개를 동시에 띄울 수 있다는 점에서 속도 이점도 크다.

시연으로 만든 것은 경쟁 분석 에이전트다. 랭체인의 deepagents 패키지와 타빌리 검색을 쓰고, 조사용과 비평용 두 종류의 서브 에이전트를 두었으며, 시스템 프롬프트는 약 430줄로 작성했다. 리니어와 아사나를 비교하라는 요청 하나에 이 에이전트는 약 35분 동안 198번의 모델 호출과 287번의 웹 검색을 수행했고, 7.2초에 한 번꼴로 검색한 셈이 됐다. 조사 10개와 비평 2개를 합해 12개의 서브 에이전트가 동원됐고 토큰은 약 700만 개가 오갔다. 결과물은 기업 프로필과 SWOT 분석, 권고안을 포함한 보고서였고, 비용은 약 9달러였다.

주요 인사이트

• 긴 프롬프트가 곧 나쁜 프롬프트는 아니다. 발표자의 관찰은 명확하고 잘 정리되어 있다면 길이는 문제가 아니며, 좋은 시스템 프롬프트에는 '낭비된 공간이 거의 없다'는 것이다.
• 예시를 너무 구체적으로 쓰면 역효과가 난다. 모델이 모든 상황에서 그 예시를 그대로 재현하려 들기 때문에, 행동의 윤곽만 보여주는 편이 일반화에 유리하다.
• 할 일 목록이 실제로는 아무 기능도 없는 도구라는 지적은 에이전트 설계의 본질을 드러낸다. 성능을 좌우하는 것은 기능 추가가 아니라 무엇을 모델의 시야 안에 남겨두느냐다.
• 서브 에이전트의 진짜 이점은 병렬 처리 속도보다 컨텍스트 격리다. 중간 과정을 본체에 돌려주지 않는 '도구로서의 에이전트' 구조가 긴 작업에서 맥락 오염을 막는다.
• 경제성은 아직 열린 질문이다. 35분에 9달러는 시간당 15달러 남짓인데, 발표자도 서브 에이전트에 더 작은 모델을 쓰는 식의 최적화 여지를 남겨두고 판단은 시청자에게 넘겼다.

자주 묻는 질문

관련 AI 소식