AI 에이전트 인프라 — 확률적 모델 위에 결정론적 시스템을 짓는 법 (메타 사례)

핵심 메시지

• 챗봇에서 자율 에이전트로 넘어가면서 핵심 과제는 '지능'이 아니라 '신뢰성'으로 바뀌었다.
• 에이전트는 확률적이지만 인프라는 결정론적이어야 한다는 '거대한 불일치'가 문제의 근원이다.
• 모델이 프로덕션 시스템을 직접 제어하게 하지 말고, 모델은 제안하고 인프라가 검증·승인·집행해야 한다.
• 진짜 위험은 환각이 아니라 재시도 폭증, 추론 루프, 메모리 오염 같은 인프라 차원의 실패다.

쉽게 이해하기

메타에서 훈련·추론 인프라를 담당하는 테크 리드 니샨트 굽타는 지난 몇 년간 AI 논의가 '더 큰 모델, 더 많은 파라미터, 더 나은 추론'에 집중돼 왔다고 짚었다. 그러나 조직이 챗봇에서 자율 에이전트로 옮겨가면서 전혀 다른 문제가 떠올랐다. 도전 과제는 더 이상 지능이 아니라 신뢰성이라는 것이다. 에이전트가 질문에 답하는 수준을 넘어 계획을 세우고, 도구를 호출하고, 워크플로를 조율하며 프로덕션 시스템에 영향을 주는 결정을 내리기 시작했기 때문이다.

그는 이를 '거대한 불일치'라고 부른다. 기존 클라우드 인프라는 요청이 대체로 짧고, 서비스가 결정론적이며, 실행 경로가 알려져 있고, 실패가 제한적이라는 가정 위에 세워졌다. 반면 자율 에이전트는 상태를 갖고, 오래 실행되며, 동적으로 결정하고, 같은 입력에도 다른 워크플로를 실행할 수 있어 이 가정들을 거의 모두 위반한다. 결국 결정론적 워크플로를 위해 설계된 인프라 위에서 자율 시스템을 돌리려는 시도가 문제라는 것이다.

데모는 '할 수 있는가'를 보여주지만, 프로덕션의 목표는 다르다. 같은 일을 만 번, 십만 번, 백만 번 신뢰성 있게 반복할 수 있는가, 실패에서 복구할 수 있는가, 허용 가능한 비용·지연·결과로 안전하게 수행할 수 있는가가 관건이다. 그래서 엔지니어링 노력의 대부분이 모델 계층 아래, 즉 오케스트레이션·모니터링·안전성 평가·복구 시스템으로 이동한다.

사람들은 'AI 실패' 하면 환각을 떠올리지만, 굽타는 환각이 오히려 가장 덜 흥미로운 실패 모드라고 말한다. 실제로 더 자주 보이는 것은 재귀적 추론 루프, 워크플로 교착, 재시도 증폭, 컨텍스트 오염, 메모리 오염, 비용 폭발 같은 인프라 실패다. 에이전트가 도구를 잘못 호출하고 오류를 받은 뒤, 복구 대신 약간 다르지만 여전히 잘못된 요청을 반복하면 재시도마다 연산이 늘어 작은 API 오류가 '연산 사고'로 번진다.

그가 가장 강하게 권하는 아키텍처 원칙은 '모델이 프로덕션 시스템을 직접 제어하게 하지 말라'는 것이다. 모델은 제안을 생성하고, 인프라가 이를 검증하며, 정책 엔진이 승인하고, 실행 게이트웨이가 집행한다. 컨테이너가 쿠버네티스를, 마이크로서비스가 서비스 메시를 낳았듯, AI 에이전트는 스케줄링·메모리 조율·정책 집행·평가·모니터링을 담당하는 '에이전트 제어 평면'이라는 새로운 계층을 만들어낸다. 그는 이를 자율 AI를 위한 운영체제로 비유했다.

주요 인사이트

• 서킷 브레이커, 속도 제한, 재시도, 리소스 쿼터, 관측 가능성 등 분산 시스템이 수십 년간 다듬어온 패턴을 에이전트 시스템에 그대로 적응시킬 수 있다.
• 여러 에이전트가 상태를 공유하면 오래된 읽기·충돌 갱신·컨텍스트 드리프트 같은 일관성 문제가 추론 실패로 위장돼 나타난다.
• 안전성은 단일 구성 요소가 아니라 프롬프트 제어·도구 권한·정책 검증·사람 승인·감사로 이어지는 다층 방어로 설계해야 한다.
• 사람의 개입은 임시방편이 아니라, 모호한 상황을 처리하는 '예외 처리자'로서 인간의 주의를 가장 가치 있는 곳에 배분하는 영구적 설계다.
• 프롬프트와 모델이 빠르게 범용화(commoditize)되면서 다음 경쟁의 핵심은 인프라, 즉 가장 신뢰할 수 있는 시스템을 가진 쪽으로 이동한다.

자주 묻는 질문

관련 AI 소식