맥킨지 기업 AI 도입 실패 이유와 성공 기업의 공통 조건 7가지, 에이전트 시대 CEO의 역할

핵심 메시지

• 맥킨지가 6년간 수천 건의 기업 AI 전환을 추적한 결과, 전체 가치의 3분의 2 이상을 가져간 기업은 100곳이 채 되지 않았다.
• 성공한 기업은 예외 없이 두 개 이하의 핵심 사업 영역에만 집중했고, 투자 1달러당 약 3달러를 회수했다.
• 도메인 재설계·데이터·아키텍처·인재·변화관리·거버넌스·경제성이라는 요소를 '전부' 갖춰야 하며, 하나라도 빠지면 가치가 잠금 해제되지 않는다.
• AI 전환의 주도권은 CTO나 CDO가 아니라 CEO와 이사회가 쥐어야 한다는 것이 연구의 일관된 결론이다.
• 에이전트는 도구가 아니라 '동료'로 다뤄야 하며, 책임(accountability)은 여전히 사람에게 남는다.

쉽게 이해하기

맥킨지의 AI 조직 퀀텀블랙을 이끄는 알렉산더 수하레프스키(Alexander Sukharevsky)는 이 대담에서 기업 AI 도입의 성적표를 담담하게 공개한다. 전 세계 수천 건의 전환 사례를 6년간 들여다봤는데, 전체 가치의 3분의 2 이상을 가져간 회사는 100곳이 되지 않았다. 대부분의 기업은 돈을 쓰고 있지만 성과는 소수에게 몰려 있다는 이야기다.

그가 말하는 성공 공식은 화려하지 않다. 먼저 회사 가치의 대부분을 만들어내는 핵심 사업 영역 두 개 이하를 골라 '기술을 얹는' 수준이 아니라 아예 다시 설계한다. 그다음 그 재설계를 뒷받침할 반복 가능한 데이터 제품을 정의하고, 데이터가 흐르도록 아키텍처를 다시 배선하고, 모델·컴퓨팅 등 기술 스택을 정비한다. 이어서 기술 인재를 확보하는 동시에 컴퓨터공학을 배운 적 없는 대다수 구성원의 역량을 끌어올린다. 마지막으로 변화관리, 거버넌스, 그리고 경제성 계산이 붙는다.

핵심은 이 요소들이 '선택지'가 아니라는 점이다. 수하레프스키는 이것을 불변(invariant)이라고 표현한다. 항목 수가 많다 보니 전부 갖추는 일이 통계적으로 어려워지고, 하나라도 빠지면 가치는 열리지 않는다. 반대로 이 뼈대(chassis)를 한 번 세우고 나면 이후 성공 확률은 80~85% 수준까지 올라가며, 확장 속도도 빨라진다고 그는 말한다.

에이전트 시대가 왔다고 해서 공식이 바뀌지는 않았다. 오히려 뼈대의 중요성이 커졌다는 것이 그의 진단이다. 다만 결정적인 차이가 하나 있다. 에이전트는 새로 추가된 도구가 아니라 조직에 합류한 또 다른 동료에 가깝다는 것이다. 사람, 에이전트, 데이터, 비즈니스 모델, 판단력, 성과관리가 함께 맞물릴 때 경쟁우위가 생기고, 그만큼 조직 운영은 복잡해진다.

그는 기술 조직이 완벽한 플랫폼과 완벽한 데이터 레이크를 만드는 데 몰두하는 동안 정작 '어떤 사업을 다시 상상할 것인가'와 '나머지 조직이 그걸 쓰게 만들 것인가'라는 어려운 질문이 방치되는 장면을 가장 흔한 실패 패턴으로 꼽았다. 그래서 최고 전환 책임자는 CEO여야 한다고 못 박는다. CTO·CDO·CIO는 CEO에게 기술의 가능성과 한계를 가르치는 결정적 역할을 맡지만, 주도권은 사업 쪽에 있어야 한다는 것이다.

주요 인사이트

• 산업별 격차보다 리더십 격차가 컸다. 광업·소비재·통신·공공 등 업종을 가리지 않고 성공 사례가 나왔고, 통계적으로 업종과의 상관관계는 없었다. 결국 회사를 다시 설계하기로 결심한 특정 팀과 리더가 변수였다.
• 비용 절감만 노리는 접근은 상위권에 들지 못한다. 성공 기업은 효율화와 동시에 매출 성장, 새로운 비즈니스 모델, 열지 못했던 시장까지 함께 겨냥했다.
• 거버넌스는 속도를 늦추는 장애물이 아니라 빠르게 확장하기 위한 전제 조건이다. 상위 기업들은 거버넌스와 디지털 신뢰 체계를 첫날부터 세워두고 움직였다.
• 토큰 비용만 보는 계산은 반쪽짜리다. 인재 재교육, 기술 조직 투자, 변화관리 비용까지 포함한 전체 사업 타당성을 세워야 하고, 모든 작업에 대형 언어모델이 필요한 것도 아니다.
• 에이전트가 결과를 쏟아낼수록 사람이 병목이 된다. 수하레프스키는 두세 시간 몰입해 에이전트와 일한 뒤 의도적으로 연결을 끊고 성찰과 계획에 쓰는 시간을 확보하라고 조언한다.

자주 묻는 질문

관련 AI 소식