AI 에이전트로 회사 지식 관리: 100인 공장이 만든 36개 에이전트 브레인 OS 사례

핵심 메시지

• 인도의 100인 열성형 기계 회사 Machinecraft는 데이터 과학팀·ML 예산 없이 영업 전 과정을 돌리는 36개 AI 에이전트 시스템을 만들었다.
• 핵심은 새 모델을 학습시키는 것이 아니라, 수년치 견적·도면·이메일 등 사내 사설 데이터를 잘게 나눠 기성 모델로 사실을 뽑고 벡터와 지식 그래프로 정리한 "잘 조직된 기억"이다.
• 하나의 거대 프롬프트 대신 각자 한 가지 일만 맡는 36개 전문 에이전트가 회의하듯 협업해 하나의 답을 낸다.
• AI는 초안을 쓰고 사람이 보낸다는 원칙과, 밤마다 그날 내용을 정리·모순 점검하는 수면 주기로 신뢰성과 지속성을 확보했다.
• 외주 견적 23만 달러였던 시스템을 약 3만 달러로 직접 만들었고, Brain OS라는 빈 골격으로 공개해 누구나 자기 회사 데이터를 부어 쓸 수 있게 했다.

쉽게 이해하기

발표자 Rushabh Doshi는 인도에서 3대째 이어온 100인 규모 열성형 기계 회사 Machinecraft를 운영한다. 그는 회사의 진짜 자산이 기계가 아니라 "누가 고객인지, 2019년에 얼마를 견적했는지, 왜 그 기계에 특이한 개조가 필요했는지" 같은 지식이며, 그 지식이 오랫동안 창업자 3대의 머릿속에만 있었다는 점을 문제로 짚는다. 사람이 나갈 때마다 회사의 뇌 일부가 함께 사라지는 구조였다는 것이다.

해법은 문서로 적어 아무도 안 읽는 대신 회사의 "쌍둥이 뇌"를 키우는 것이었다. 이 회사는 같은 핵심 기계로 수경재배 트레이, 스파 욕조, 전기차 패널, 의료 케이스, 포장재 등 서로 다른 7개 시장을 상대하기 때문에, 시스템은 각 고객이 어느 시장에 속하는지까지 알아야 했다.

흥미로운 지점은 이들이 모델을 전혀 학습시키지 않았다는 것이다. GPU도 파인튜닝도 없이, 수년치 견적·도면·결제 일정·이메일 등 수백 기가바이트의 사설 데이터를 잘게 쪼개 기성 모델로 읽혀 사실을 추출하고, 각 조각의 의미를 벡터로, 관계를 그래프로 저장했다. 즉 더 똑똑한 모델이 아니라 매우 잘 정리된 기억이 핵심이다.

시스템은 생물학을 본떠 설계됐다. 상대가 누구인지 파악하는 감각, 문서를 사실로 소화하는 소화기관, 기억, 꿈 주기, 잘못된 정보를 걸러내는 면역계를 갖췄다. 하나의 만능 프롬프트 대신 각자 한 가지 일만 하는 36개 에이전트(방을 진행하는 Athena, 판매를 맡는 Prometheus, 가격의 Plutus, 기계 사양의 Hephaestus, 사실 검증의 Vera, 수정 내용을 지키는 Memnon 등)가 회의처럼 논의해 하나의 답을 낸다.

이 시스템은 아웃바운드 이메일, 통화 전 계정 브리프, 견적, 잠든 리드 되살리기, 인바운드 응답, 적합성 판단 등 매일 9가지 실무를 처리한다. 모든 기능은 하나의 프로토콜 위에서 213개 도구로 노출되고, 커서(Cursor) 탭 하나에서 조작된다. 절대 어기지 않는 규칙은 "AI가 초안을 쓰고 사람이 보낸다"이다.

주요 인사이트

• 생성형 AI 도입의 비용은 연산이 아니라 "회사가 스스로를 기억하게 만드는" 데이터 정리와 설계에 있다. 학습 청구서는 0이었고, 외주 23만 달러 대비 자체 구축은 약 3만 달러, 운영은 월 수천 달러 수준이었다.
• 언어 모델은 기본적으로 30초짜리 기억력의 금붕어에 가깝기 때문에, 작업 메모리·고정 사실·에피소드·관계·저장 가치를 거르는 게이트 등 메모리를 계층으로 의도적으로 설계해야 한다. 두 사실이 충돌하면 사람이 고친 수정본이 이긴다.
• 야간 "수면 주기"에 하루를 재생하며 유용한 것을 굳히고 모순을 찾고 낡은 정보를 잊고 그날 작업을 재사용 가능한 스킬로 바꾼다. 아침이면 정리 보고서가 남아, 시스템이 밤사이 더 똑똑해진다.
• 각 에이전트의 양심은 범용 원칙이 아니라 3대째 자이나교 가족 기업의 가치를 옮긴 "영혼 파일"이다. "한 출처가 전부를 알지 못하니 교차 확인하라", "단정하지 말고 문서와 날짜를 인용하라" 같은 오래된 원칙이 운영상의 가드레일로 작동한다.

자주 묻는 질문

관련 AI 소식