메르세데스-벤츠 AI 에이전트 운영 사례: 모델 가든·에이전트 가든·n8n 자체 호스팅

핵심 메시지

• 메르세데스-벤츠는 사내 모든 모델·도구·에이전트를 한곳에 모으는 “AI 생태계(MBI ecosystem)”를 만들어 전사와 차량 양쪽의 AI를 함께 운영한다.
• 모델 가든에는 40개 이상의 모델이 등록돼 있고, 모델을 사내에 편입하는 데 예전에는 약 6개월이 걸리던 작업이 지금은 약 3분으로 단축됐다.
• 생태계는 taker(전 직원용 코파일럿), shaper(로우코드·노코드), builder(맞춤형 개발)로 나뉘며, n8n은 로우코드·노코드 영역에 배치됐다.
• n8n을 고른 이유는 특정 클라우드에 종속되지 않도록 사내 쿠버네티스에 자체 호스팅할 수 있고, 사내 시스템을 감싸는 커스텀 노드와 내부 LLM 게이트웨이 연동이 쉬웠기 때문이다.
• 내부 해커톤을 화이트칼라 직원 9만 명 전원에게 열어, 중국·인도·미국·독일 팀이 3일간 n8n으로 수백 개의 아이디어를 직접 만들어 봤다.

쉽게 이해하기

메르세데스-벤츠의 AI 생태계 팀은 IT 조직 안에서 전사 차원의 AI 도입을 이끄는 역할을 맡고 있다. 이들은 2019년부터 “책임 있는 AI”를 내세웠고, ChatGPT 열풍 이후 전담 팀을 꾸려 사내 AI 역량을 쌓기 시작했다고 밝혔다. 지난해부터는 흩어져 있던 도구·모델·에이전트를 한 곳에 모으는 AI 생태계를 본격적으로 구축하고 있다.

핵심 축은 두 개의 “가든”이다. 모델 가든에는 40개가 넘는 모델이 등록돼 있고, 사내에서 쓸 모델을 심사·편입하는 절차(model intake)를 표준화했다. 발표자들은 새 모델을 사내 수명주기에 편입하는 데 과거 약 6개월이 걸리던 것이 지금은 약 3분이면 가능해졌다고 설명했다. 에이전트 가든은 멀티클라우드에 흩어진 에이전트를 한곳에 연결해 상호운용성과 보안을 관리하는 공간으로, A2A와 MCP를 결합하면 업무 사슬을 통째로 자동화할 수 있다는 점을 강조했다.

이 생태계는 세 부류로 나뉜다. 모든 화이트칼라 직원에게 코파일럿을 배포한 “taker”, 로우코드·노코드로 직접 자동화를 만드는 “shaper”, 소프트웨어 엔지니어링으로 맞춤 솔루션을 만드는 “builder”다. n8n은 이 가운데 shaper 영역에 놓여, 업무 프로세스 자동화부터 레거시 통합, 오케스트레이션까지 넓게 활용된다.

기술 담당자는 n8n을 고른 이유로 특정 하이퍼스케일러에 종속되지 않는 점을 들었다. 사내 쿠버네티스 클러스터(백엔드는 AWS)에 자체 호스팅하고, 유스케이스마다 별도의 n8n 인스턴스를 띄워 HR 데이터와 차량 데이터처럼 섞이면 안 되는 데이터를 분리한다. 현재 30개가 넘는 인스턴스가 돌고 있으며, 한 시스템이 망가져도 전체가 무너지지 않도록 설계했다고 한다. 사내 인증·접근 관리 같은 시스템은 커스텀 노드로 감싸고, 내부 LLM 게이트웨이에 연결해 접근을 통제한다.

도입 과정도 공유됐다. 지난해 평가를 시작해 올해 1월 엔터프라이즈 계약을 맺었고, 램프업과 확장 MVP 기간, 워크숍, 1차 지원을 거쳤다. 3월 말에는 9만 명 전원에게 사내 해커톤을 안내했고, 실제로 세계 각지의 팀이 3일간 n8n으로 수백 개의 아이디어를 시험했다. 대표적으로 지라 티켓을 다루는 고객 지원 에이전트, 그리고 사전 영업·사후 영업 에이전트를 하나로 묶는 오케스트레이터 유스케이스가 소개됐다.

주요 인사이트

• AI 도입의 병목은 모델 성능만이 아니라 “어떻게 안전하게 확산하느냐”다. 벤츠는 모델·에이전트를 카탈로그처럼 모아 두고 심사·배포·보안을 표준화해 확산 속도를 끌어올렸다.
• 모델 편입 시간을 6개월에서 3분으로 줄였다는 대목은, 거버넌스를 자동화하면 오히려 새 모델을 더 빨리 도입할 수 있음을 보여준다.
• 유스케이스별로 인스턴스를 분리하는 설계는 데이터 경계를 지키는 동시에 장애가 번지지 않게 하는 실용적인 선택이다.
• 여러 부서가 각자 만든 에이전트를 오케스트레이터로 묶는 접근은, 단일 거대 에이전트보다 조직 현실에 맞는 확장 방식일 수 있다.
• 9만 명 규모의 해커톤은 도구 보급을 넘어, AI를 아직 써 보지 않은 직원까지 끌어들이는 조직 문화 전략에 가깝다.

자주 묻는 질문

관련 AI 소식