사티아 나델라 AI 전략 — 모델보다 하네스와 비공개 평가셋이 기업 경쟁력을 가르는 이유

핵심 메시지

• 나델라는 지금의 AI를 단일 모델이나 단일 플랫폼이 아니라 생태계 경쟁으로 봐야 한다고 강조했다. 플랫폼의 가치는 플랫폼이 거둬가는 몫보다 그 위에서 남들이 만들어내는 가치가 클 때 성립한다는 것이다.
• 공개 벤치마크는 결국 모두 최대치까지 공략당하기 때문에, 각 기업이 자기 업무에 맞게 만든 비공개 평가셋이 앞으로 가장 중요한 지식재산이 될 것이라고 말했다.
• 모델·데이터·도구를 하나의 루프로 묶는 '하네스'가 제품 경쟁력의 축이 됐고, 마이크로소프트는 자사 하네스를 개방해 외부 모델도 끼워 쓸 수 있게 하는 쪽을 택했다.
• 코딩 에이전트가 너무 잘 작동한 나머지 개발 도구 자체를 다시 설계해야 하는 상황이 왔고, 채팅창만으로는 수십·수백 개 에이전트 작업을 감당할 수 없다고 진단했다.
• 데이터센터 건설이 지역 주민에게 요금·물·일자리·세수 측면에서 실제 이익으로 체감되지 않으면 업계는 사회적 허용을 얻지 못한다고 못박았다.

쉽게 이해하기

마이크로소프트 개발자 행사 현장에서 녹음된 이 대담은 두 개의 AI 팟캐스트가 함께 사티아 나델라를 인터뷰한 자리다. 그는 이날 발표를 관통하는 메시지를 묻는 질문에 '단일 모델이나 단일 플랫폼이 아니라 생태계로 보라'고 답했다. 플랫폼이란 그 위에서 만들어지는 가치가 플랫폼이 회수하는 가치보다 클 때 비로소 플랫폼이라는, 오래된 정의를 다시 꺼내 든 셈이다.

자체 모델 전략에 대해서는 '깨끗한 계보'를 강조했다. 웹에 정체 불명의 데이터가 넘쳐나는 지금은 오히려 출처가 분명한 사전학습 모델을 만들기가 더 어려워졌고, 그래서 일부 공개 가중치 모델은 한두 개 벤치마크에서만 좋아 보이고 실무에서는 힘을 못 쓴다는 것이다. 그는 큰 모델로 작업 기록을 모은 뒤 50억 파라미터급 소형 추론 모델이 오히려 더 높은 성능을 낸 사례를 들며, 시간 축을 더하면 프런티어의 의미 자체가 달라진다고 설명했다.

대담에서 반복해서 등장한 개념이 '하네스'와 '비공개 평가셋'이다. 하네스는 모델과 데이터, 도구를 하나의 루프로 묶어 주는 실행 환경을 뜻한다. 나델라는 지난 2년의 가장 뼈아픈 교훈이 컨텍스트 계층을 준비하는 데 얼마나 많은 공이 드는지였다고 털어놨다. 그리고 어떤 회사가 통제권을 가졌는지 판별하는 시험은 간단하다고 했다. 자기 평가셋을 그대로 두고 모델 A를 모델 B로 바꿔도 성능이 계속 올라가면 통제권이 있는 것이고, 그렇지 않으면 없는 것이다.

소프트웨어 산업의 구조 변화에 대해서도 구체적인 관측을 내놨다. 데이터 모델과 대시보드 밑에 깔린 의미 모델 같은 자산은 여전히 가치가 있으니, 문제는 그것을 지금까지의 방식으로 묶어 팔던 포장을 풀고 다시 묶는 일이라는 것이다. 사내 협업 도구에 쌓인 회의록과 문서 더미가 사실상 회사에서 가장 중요한 데이터베이스였는데도 앱 안에 갇혀 있었다는 지적, 그리고 회의 기록을 읽어 코드 변경 계획을 만들어 주는 사용 예시가 이 변화를 잘 보여 준다.

가격 모델과 조직 운영에 대한 답변도 현실적이었다. 사용자당 과금은 예산의 확실성을 원하는 구매자 때문에 생긴 형식이므로 앞으로도 남겠지만, 에이전트 사용량을 재는 소비량 미터가 반드시 따라붙을 것이라고 봤다. 성과 기반 과금에 대해서는 '성과가 나기 전까지는 다들 좋아한다'는 말로 냉정하게 정리했다. 조직 차원에서는 '어려운 일을 쉽게'가 아니라 '불가능을 가능하게'가 진짜 야망이라며, 자기 업무를 한 단계 위에서 다시 정의한 인프라 팀의 사례를 들었다.

주요 인사이트

• 그가 든 가장 인상적인 사례는 애저 네트워크 운영팀이다. 최근 15개월 동안 앞선 15년보다 많은 용량을 같은 인원으로 지어 올려야 했던 이 팀은 '우리 일은 네트워크를 운영하는 것이 아니라 네트워크를 운영하는 에이전트 시스템을 만드는 것'이라고 업무를 재정의했고, 결국 인력 충원 대신 토큰을 요구하기 시작했다.
• 인적 자본과 토큰 자본을 어떻게 결합하느냐가 기업 가치의 새로운 축이 된다는 주장도 나왔다. 사람과 에이전트가 함께 일하며 남긴 기록으로 그 회사만의 '고참 직원 같은 에이전트'를 길러낼 수 있다면, 지금까지 재무제표에 올릴 수 없었던 암묵지가 자산으로 잡힐 수 있다는 발상이다.
• 사내에서 SaaS를 직접 다시 만들겠다는 열풍에 대해서는 한 번의 예산 주기를 돌아 봐야 균형점이 보인다고 답했다. 직접 만드는 한계비용이 사는 비용보다 높으면 사야 하고, 보안 취약점 수정 같은 유지보수 부담과 그에 드는 토큰 비용까지 계산에 넣어야 한다는 것이다.
• 교육 분야에서 기대만큼 효과가 안 보이는 이유를 묻자, 기술보다 자격과 보상 체계의 문제를 지적했다. 정보를 얻고 배우는 방식이 이렇게 바뀐 만큼 새로운 대학이나 새로운 교수법을 만드는 곳이 다음의 큰 성공 사례가 될 수 있다는 것이 그의 예측이다.
• 엔지니어링 직무 재편에 대해서는 한 자회사가 디자인·기획·프런트엔드를 묶어 '풀스택 빌더'라는 직군을 새로 만든 사례를 들었다. 동시에 강화학습 환경을 설계하는 인프라 역량이 사용자 앱 팀에서도 필요해졌다며, 결국 제너럴리스트의 레버리지가 가장 크게 오를 것이라고 봤다.

자주 묻는 질문

관련 AI 소식