앤트로픽 배리 장의 AI 에이전트 설계 3원칙: 워크플로와 구분, 단순화, 에이전트 관점

핵심 메시지

• 에이전트는 모든 기능의 업그레이드판이 아니다. 결정 흐름을 그림으로 그릴 수 있는 작업이라면 정해진 워크플로가 더 싸고 통제하기 쉽다.
• 에이전트를 쓸지 판단하는 기준은 과제의 모호함, 과제의 가치, 핵심 역량의 병목, 오류의 비용과 발견 난이도 네 가지다.
• 에이전트의 실체는 '도구를 쓰며 반복 호출되는 모델'이며, 환경·도구·시스템 프롬프트 세 요소만 먼저 다듬고 최적화는 나중에 하는 것이 좋다.
• 에이전트가 이상하게 행동하면 사람의 시야가 아니라 에이전트의 문맥창 안으로 들어가 보라는 것이 세 번째 조언이다.
• 발표자는 앞으로 풀어야 할 과제로 예산 인식, 스스로 도구를 다듬는 능력, 여러 에이전트 사이의 비동기 협업을 꼽았다.

쉽게 이해하기

앤트로픽에서 에이전트를 만들어 온 배리 장이 AI Engineer 행사 무대에서 자신들이 겪은 시행착오를 세 가지 원칙으로 정리했다. 그는 요약·분류·추출처럼 모델을 한 번 호출하던 단계에서, 여러 번의 호출을 정해진 순서로 엮는 워크플로 단계를 거쳐, 스스로 경로를 정하는 에이전트로 넘어온 흐름을 짚었다. 자율성이 커질수록 쓸모도 커지지만 비용과 지연, 실수의 대가도 함께 커진다는 것이 전제다.

첫 번째 원칙은 모든 일에 에이전트를 쓰지 말라는 것이다. 그는 판단 기준으로 네 가지를 제시했다. 결정 트리를 통째로 그릴 수 있을 만큼 명확한 과제라면 그 트리를 직접 구현하는 편이 낫고, 탐색에 들어가는 토큰 비용을 정당화할 만큼 과제 가치가 커야 한다. 또 코딩 에이전트라면 코드 작성·디버깅·오류 복구처럼 반드시 필요한 역량에 병목이 없어야 하고, 실수가 치명적이거나 발견하기 어려우면 권한을 좁히는 대신 확장성도 함께 줄어든다고 설명했다.

이 기준에 비춰 코딩이 좋은 사례로 꼽힌 이유도 분명하다. 설계 문서에서 병합 요청까지 가는 과정은 충분히 모호하고 복잡하며, 결과물의 가치가 높고, 무엇보다 단위 테스트와 지속적 통합으로 결과를 쉽게 검증할 수 있다. 그는 이 검증 가능성이 코딩 분야에서 성공적인 에이전트가 유독 많이 나오는 배경이라고 봤다.

두 번째 원칙은 최대한 단순하게 유지하라는 것이다. 그는 에이전트를 '환경, 도구, 시스템 프롬프트'라는 세 요소 위에서 모델이 반복 호출되는 구조로 정의한다. 겉으로 전혀 달라 보이는 여러 제품이 사실상 같은 뼈대와 거의 같은 코드를 공유하고 있으며, 초반에 복잡도를 얹으면 반복 개선 속도가 죽는다는 것이 그의 경험이다. 캐싱으로 비용을 줄이거나 도구 호출을 병렬화해 지연을 줄이는 최적화는 동작이 자리 잡은 다음의 일이다.

세 번째 원칙은 에이전트처럼 생각하라는 것이다. 컴퓨터를 조작하는 에이전트는 정지된 화면 한 장과 부실한 설명만 받고, 도구를 호출하는 몇 초 동안은 눈을 감고 컴퓨터를 쓰는 것과 다름없다. 그는 직접 그 관점으로 과제를 수행해 보라고 권하며, 화면 해상도처럼 당연해 보이는 정보나 권장 동작·제약을 알려 주는 것이 왜 중요한지 금방 알게 된다고 말했다. 시스템 프롬프트나 도구 설명이 모호하지 않은지 모델에게 직접 물어보는 것도 자주 쓰는 방법이라고 소개했다.

주요 인사이트

• 고객 지원처럼 건당 예산이 빠듯한 서비스에서는 자유로운 탐색이 곧 비용이다. 발표자는 건당 10센트 수준이면 쓸 수 있는 토큰이 3만~5만 개 남짓이라며, 이런 경우 흔한 시나리오를 워크플로로 처리해도 가치 대부분을 얻을 수 있다고 봤다.
• 에이전트 설계에서 실제로 정해야 할 것은 생각보다 적다. 환경은 용도가 정해 주므로, 남는 결정은 '어떤 도구를 줄 것인가'와 '어떤 지침을 줄 것인가' 두 가지라는 정리가 인상적이다.
• 에이전트의 세계는 문맥창 안이 전부다. 모델이 아는 세상은 그 순간의 1만~2만 토큰이 전부이므로, 사람의 상식으로 당연한 정보를 빠뜨리면 이상 행동이 아니라 정보 부족의 결과가 된다.
• 발표자는 전체 실행 기록을 모델에 넣고 '왜 이 판단을 했는지, 무엇이 있었으면 더 나았을지' 물어보는 방법을 권한다. 사람의 이해를 대체하지는 못해도 관점 차이를 좁히는 데 유용하다는 것이다.
• 남은 숙제로 그는 시간·비용·토큰 예산을 어떻게 정의하고 강제할지, 에이전트가 자기 도구 설명을 스스로 개선하게 할 수 있을지, 여러 에이전트가 동기식 대화 틀을 넘어 어떻게 소통할지를 꼽았다.

자주 묻는 질문

관련 AI 소식