서비스나우 CEO 빌 맥더멋 인터뷰 — SaaS 종말론 반박과 에이전트 시대의 기업 소프트웨어 전망

핵심 메시지

• 언어모델은 문제 처리 절차를 밀리초 만에 알려주지만, 여러 부서의 데이터와 승인을 거쳐야 하는 사안을 실제로 종결하지는 못한다는 것이 그의 구분법이다.
• 사내 계산으로는 플랫폼의 단순한 애플리케이션 하나를 언어모델로 재현하는 데 10배의 비용이 든다고 주장했다. 대체 개발비와 인력 기회비용, GPU와 토큰 비용을 모두 더한 값이다.
• "사람의 실수는 이해해도 소프트웨어의 실수는 용서하지 않는다"는 말로, 문제가 생겼을 때 연락할 책임 주체가 있다는 점을 플랫폼의 가치로 들었다.
• 고객 문의의 90%를 이미 에이전트가 처리하고 있으며, 앞으로 매출이 늘어도 순증 채용은 크게 줄어들 것이라고 내다봤다.
• 하이퍼스케일러가 소프트웨어 업계를 삼킬 것이라던 몇 년 전의 공포가 결국 협력 관계로 정리됐듯, 언어모델 기업과의 관계도 같은 경로를 밟을 것으로 봤다.

쉽게 이해하기

노 프라이어스 팟캐스트가 서비스나우 회장 겸 CEO 빌 맥더멋을 초대했다. 대화는 그의 출발점에서 시작한다. 열여섯 살에 여러 아르바이트를 하나로 합치겠다는 생각으로 동네 델리를 인수했는데, 자본이 없어 5,500달러짜리 약속어음을 쓰고 이자를 더해 7,000달러를 갚되 한 번이라도 상환을 못 하면 전부 돌려주는 조건이었다. 그가 그 시절에서 얻었다고 말하는 결론은 하나다. 승패를 정하는 것은 결국 고객이며, 하루 500명을 상대하며 쌓은 감각은 다른 무엇으로도 대체되지 않는다는 것이다.

본론은 언어모델과 엔터프라이즈 플랫폼의 관계다. 그는 둘 중 무엇이 낫다는 이야기가 아니라 어디서 시작하고 끝나는지를 구분하지 못하면 혼란이 생긴다며, 회사가 이를 정리한 백서를 만들어 고객 경영진을 교육했다고 밝혔다. 예로 든 것은 급여 관련 문제다. 언어모델은 이런 상황에서 무엇을 어떤 순서로 해야 하는지 순식간에 알려준다. 다만 그 사안을 실제로 종결하려면 해당 직원의 데이터와 맥락이 필요하고 인사, 재무, 법무, 컴플라이언스를 오가는 흐름을 거쳐야 한다. 그 흐름을 관리하는 것이 워크플로 플랫폼의 일이라는 설명이다.

이른바 'SaaS 종말론'에 대한 반박은 비용 계산으로 이어진다. 코드 생성 AI가 훌륭하다는 점은 인정하지만, 기존 플랫폼을 대체하려면 재구축 비용에 더해 그 일에 투입된 인력이 다른 일을 못 하는 기회비용, 그리고 GPU 인프라와 토큰 사용 비용이 함께 붙는다. 사내에서 실제로 계산해 보니 단순한 애플리케이션 하나 기준으로 10배가 나왔다고 했다. 그는 여기에 책임 문제를 덧붙였다. 모델이 틀렸을 때 '모델은 정상 작동했다'는 답만 돌아온다면 고객에게는 해결책이 없으며, 기업은 사람의 실수는 이해해도 소프트웨어의 실수는 용서하지 않는다는 것이다.

그렇다면 실제로 위험한 영역은 어디인가. 그는 여러 부서에 걸쳐 있거나 핵심 기록 시스템 역할을 하는 소프트웨어는 대체하기 어려운 반면, 단일 부서에서 부가가치가 크지 않은 기능만 담당하는 회사는 취약해질 수 있다고 봤다. 자사 위치에 대해서는 여러 언어모델과 기록 시스템, 데이터 레이크를 연결하는 'AI 관제탑'으로 설명하며, 인수한 회사들을 20일 만에 통합했고 현재 850억 건의 워크플로가 진행 중이며 플랫폼에서 7조 건의 트랜잭션이 일어난다고 밝혔다. 대형 고객도 30일 안에 가동에 들어간다는 점을 도입 속도의 근거로 들었다.

인력 전망은 솔직한 편이다. 이미 고객 문의의 90%를 에이전트가 처리하고 사람은 나머지 10%에서 판단이 필요한 일을 맡는다. 그는 앞으로 회사가 성장해도 순증 인원은 크게 줄어들 것이라며, 에이전트가 같거나 더 잘하는 일이라면 그 판단은 어려운 경제적 결정이 아니라고 말했다. 다만 그가 강조한 것은 정반대 방향의 이야기이기도 하다. 2020년부터 2024년 사이 화상 면접으로 대규모 채용이 이뤄지면서 조직이 두꺼워졌다는 점을 지적하면서도, 남는 자리는 뛰어난 것을 만드는 엔지니어와 신뢰를 쌓아 관계를 유지하는 사람이라고 정리했다. AI는 사람을 대체하는 것이 아니라 사람을 위해 쓰여야 한다는 말이 인터뷰 전체를 관통한다.

주요 인사이트

• '절차를 안내하는 것'과 '사안을 종결하는 것'을 나누는 구분은, 사내 AI 도입에서 어디까지가 모델의 일이고 어디부터가 시스템 통합의 일인지 가르는 실용적 기준이 된다.
• 재구축 비용 비교에 GPU와 토큰 비용을 포함시킨 계산법은, 자체 개발이 저렴해 보이는 착시가 어디에서 생기는지 짚는다. 다만 10배라는 수치는 자사 플랫폼 기준의 사내 계산이라는 점을 감안해 읽어야 한다.
• 소프트웨어의 실수를 용서하지 않는다는 지적은 기업 시장에서 정확도만큼 책임 주체의 존재가 중요하다는 뜻이며, 이는 확률적으로 동작하는 모델을 파는 쪽에 남는 숙제다.
• 하이퍼스케일러 공포가 협력으로 귀결된 전례를 끌어오는 논법은 설득력이 있지만, 당시와 달리 지금은 모델이 소프트웨어 자체를 생성한다는 점에서 차이가 있다.
• 그가 만난 브라질 기업 중 실험 단계를 넘어 실제 운영에 들어간 곳이 11%에 그친다는 언급은, 도입 담론과 현장의 진도 사이에 큰 간극이 있음을 보여준다.

자주 묻는 질문

관련 AI 소식