AI 에이전트 실전 운영: OpenGov가 OG Assist를 구축·확장한 방법

핵심 메시지

• OpenGov는 예산·조달·자산관리·인허가를 다루는 정부용 ERP에 'OG Assist'라는 채팅형 AI 에이전트 버튼을 모든 제품에 심었다.
• 범용 프레임워크(LangGraph) 대신 TypeScript 라이브러리 Effect 기반의 자체 에이전트 루프로 옮겨 모델 교체·추적·동시성까지 직접 통제한다.
• 엄지손가락 피드백과 CI 자동 평가, 그리고 변경성 작업에 대한 사람 승인(휴먼 인 더 루프)으로 안전성과 신뢰를 확보한다.
• 코드 실행은 일회용 샌드박스에서, 긴 대화는 롤링 요약으로, 관측성은 Effect의 기본 트레이싱으로 처리한다.

쉽게 이해하기

OpenGov는 '더 효과적이고 책임 있는 정부'를 표방하며 예산 편성, 조달, 자산 관리, 인허가 같은 공공 영역의 ERP 소프트웨어를 판매하는 회사다. 발표자 Gabe de Mesa는 AI 에이전트 팀 소속 엔지니어로, 회사의 모든 제품 상단 내비게이션 바에 들어가 있는 'OG Assist' 버튼을 소개한다. 각 제품 팀이 직접 도구(tool)와 스킬(skill)을 붙여 이 버튼 하나로 자기 제품 데이터에 질문하고 답을 받을 수 있게 만들었다.

OG Assist는 단순 채팅에 그치지 않는다. 화면에 무엇이 떠 있는지 인식하고, 사용자가 다음에 할 만한 행동을 하이라이트해 주는 등 페이지 위에서 실제 동작까지 수행한다. 에이전트는 '내가 쓸 수 있는 도구가 무엇인지'를 먼저 따져보고 적절한 도구 호출로 데이터를 조회한다.

팀이 강조한 기술적 선택은 TypeScript 라이브러리 'Effect'에 대한 과감한 베팅이다. Effect는 Zod와 유사한 스키마, 에러 처리, 로깅, 트레이싱을 두루 갖춰 코드 구조와 아키텍처를 개선해 준다. 처음엔 LangGraph로 시작했지만 사용 사례가 복잡해지자 Effect 기반의 자체 에이전트 루프로 이전해, 트레이싱·구조적 동시성·로깅을 루프 전반에 자연스럽게 전파했다. Effect AI 패키지의 chat·language model을 의존성 주입으로 구성해, 필요하면 다른 모델로 손쉽게 교체할 수 있게 했다.

에이전트 간 통신에는 구글이 만든 A2A(agent-to-agent) 프로토콜을 활용한다. 이름·설명이 담긴 '에이전트 카드' 같은 규격이 프런트엔드와 백엔드가 공유하는 계약 역할을 해 개발 정렬을 이끌었고, A2UI 같은 확장도 가능하다. 발표자는 '배포는 끝이 아니라 시작'이라며, 엄지 업/다운 피드백과 CI에서 실제 완성 결과에 대해 돌리는 자동 평가를 통해 빠르게 개선한다고 설명한다.

안전장치도 촘촘하다. 승인이 필요한 도구 호출은 에이전트 루프를 결정적으로 멈춰 사람이 수락/거부하게 하고, 특히 변경성 작업에서는 항상 사람을 운전석에 둔다. 코드 실행·파일 생성은 필요할 때 띄웠다가 끝나면 정리되는 격리 샌드박스에서 이뤄져 프로덕션에 위험을 주지 않는다. 긴 대화는 매 n개 메시지마다 롤링 요약을 만들어 토큰 한계를 피하고, 요약 위에서 회상(recall)이 가능하다. 또한 런타임에 폼 같은 UI를 즉석 생성하는 생성형 UI, Effect가 기본 제공하는 트레이싱 기반 관측성, 그리고 'tools and skills가 전부'라는 철학으로 내부 개발(Claude·Cursor 활용)까지 가속한다고 밝힌다.

주요 인사이트

• 범용 에이전트 프레임워크가 한계에 부딪히면, 자체 루프로 내려가 모델 교체·동시성·추적을 직접 통제하는 편이 복잡한 요구사항에 유리하다.
• A2A 같은 명시적 프로토콜(에이전트 카드)은 프런트·백엔드의 계약이 되어 팀 간 정렬과 개발 속도를 끌어올린다.
• 변경성 작업에 대한 사람 승인과 일회용 샌드박스는 에이전트의 자율성과 안전성을 동시에 확보하는 실전 패턴이다.
• 긴 대화는 최신 메시지를 무작정 채우기보다 롤링 요약 + 회상 구조가 토큰 한계와 맥락 유지 모두에 효과적이다.

자주 묻는 질문

관련 AI 소식