젠슨 황 인터뷰 정리: 엔비디아의 해자와 TPU 경쟁, 공급망 병목과 중국 칩 수출 논쟁

핵심 메시지

• 황은 엔비디아를 '전자를 넣어 토큰을 내보내는 회사'로 정의하며, 그 변환 과정에 들어가는 공학이 아직 충분히 이해되지 않았기 때문에 범용화되기 어렵다고 봤다.
• 공급망 병목은 어떤 것이든 2~3년이면 풀리며, 진짜로 오래 발목을 잡는 것은 칩이 아니라 에너지라고 주장했다.
• 앤트로픽이 자체 가속기로 간 것은 추세가 아니라 예외이며, 당시 엔비디아가 수십억 달러 규모 투자를 할 처지가 아니었던 것이 자신의 실책이라고 인정했다.
• 가격은 수요가 폭증해도 올리지 않고 선착순으로 배정한다는 원칙을 밝혔으며, 최고가 입찰 방식은 나쁜 관행이라고 잘라 말했다.
• 중국 수출 문제에서 진행자와 끝까지 합의하지 못했고, 황은 AI를 다섯 개 층으로 이뤄진 산업으로 보고 칩 층에서 세계 2위 시장을 스스로 포기하는 것이 미국에 손해라고 반박했다.

쉽게 이해하기

인터뷰는 소프트웨어가 범용화되면 엔비디아도 범용화되는 것 아니냐는 도발로 시작한다. 황은 회사를 전자를 입력받아 토큰을 출력하는 존재로 규정하고, 그 변환을 더 값싸고 더 가치 있게 만드는 과학과 공학이 아직 끝나지 않았다고 답한다. 오히려 에이전트가 늘어나면 도구를 쓰는 주체가 폭증하므로 설계 도구를 만드는 소프트웨어 기업들의 사용량이 급증할 것이라고 전망한다.

공급망을 두고는 시각이 갈렸다. 진행자는 이미 첨단 공정의 대부분을 엔비디아가 쓰고 있는데 어떻게 매년 두 배씩 늘릴 수 있느냐고 물었고, 황은 어떤 병목도 2~3년을 넘기지 않는다고 답한다. 한 번 만들 수 있게 되면 열 개를 만들 수 있고 그다음엔 훨씬 더 많이 만들 수 있다는 것이다. 그는 자신이 수년 전부터 공급망 경영진들을 직접 설득해 선제 투자를 이끌어냈고, 그것이 다른 회사가 따라 하기 어려운 지점이라고 설명한다.

정작 그가 걱정하는 것은 반도체가 아니라 에너지와 인력이다. 그는 가장 어려운 병목으로 배관공과 전기공을 꼽으며, 일자리가 사라진다는 공포가 오히려 필요한 인력을 말려버릴 수 있다고 우려한다. 10년 전 영상의학과가 가장 먼저 사라질 직업으로 지목됐지만 지금은 영상의학과 전문의가 부족하다는 사례를 반복해서 든다.

TPU와의 경쟁에 대해서는 만든 물건 자체가 다르다고 선을 긋는다. 엔비디아가 만든 것은 텐서 연산 전용 장치가 아니라 가속 컴퓨팅이며, 분자동역학이나 유체역학, 데이터 처리까지 포괄한다는 것이다. 진행자가 AI 연산의 대부분은 예측 가능한 행렬 곱인데 전용 칩이 유리하지 않냐고 묻자, 황은 새로운 어텐션 구조나 새로운 아키텍처를 발명하려면 프로그래밍 가능한 시스템이 필요하다고 답한다. 공정 미세화로 얻는 이득은 연간 25% 남짓이므로 10배, 100배 도약은 알고리즘과 시스템 설계에서만 나온다는 논리다.

쿠다의 가치도 같은 맥락에서 설명된다. 개발자에게 가장 중요한 것은 자신이 만든 소프트웨어가 다른 수많은 컴퓨터에서도 돌아가는 것이고, 엔비디아는 모든 클라우드와 온프레미스, 로봇에까지 깔려 있다는 것이다. 그는 자사 엔지니어들이 AI 연구소의 스택을 함께 최적화해 모델 속도를 두세 배까지 끌어올리는 경우가 드물지 않으며, 그것이 곧 고객의 매출로 직결된다고 말한다.

왜 직접 클라우드가 되지 않느냐는 질문에는 '필요한 만큼 하되 가능한 한 적게 한다'는 회사 철학으로 답한다. 자신들이 하지 않으면 아무도 하지 않을 일에는 전부를 걸지만, 세상에 이미 많은 클라우드가 있는 영역에는 들어가지 않는다는 것이다. 같은 이유로 파운데이션 모델 기업 중 승자를 고르지 않고 모두에 투자한다고 밝히며, 창업 초기 60개 그래픽 회사 중 엔비디아가 가장 살아남기 어려워 보였다는 일화를 근거로 든다.

가장 길게 충돌한 대목은 중국 수출이다. 진행자는 연산이 곧 모델 능력의 입력이므로 미국이 앞서 있어야 한다고 밝혔고, 황은 중국이 이미 충분한 칩과 압도적인 에너지, 세계 AI 연구자의 절반을 갖고 있다고 반박한다. 성능 대 전력 효율이 중요한 이유는 미국의 전력이 부족해서이며, 전력이 남아도는 쪽은 구형 공정 칩을 더 많이 묶어 쓰면 된다는 것이다. 그는 미국 기술 스택 위에서 세계의 AI가 개발되게 하는 것이 더 중요하며, 시장을 스스로 내주면 상대의 생태계만 키워준다고 주장한다.

주요 인사이트

• 황의 방어 논리는 성능 수치가 아니라 생태계의 관성에 놓여 있다. 자동차는 브랜드를 쉽게 바꾸지만 컴퓨팅은 그렇지 않으며, 그래서 x86과 ARM이 여전히 살아 있다는 비유를 든다.
• 그는 블랙웰이 호퍼 대비 50배 개선된 반면 트랜지스터 자체의 이득은 75% 수준이었다는 점을 들어, 발전의 대부분이 공정이 아니라 아키텍처와 소프트웨어에서 나왔다고 강조한다.
• 수요가 공급을 넘어서는 상태를 그는 문제로 보지 않고 산업이 건강한 조건으로 본다. 다만 특정 부품이 지나치게 뒤처지면 업계 전체가 그 지점에 몰려들어 해결한다고 설명한다.
• 앤트로픽 건에 대한 인정은 이례적이다. 그는 벤처 투자만으로는 파운데이션 모델 기업이 필요한 자본을 조달할 수 없다는 사실을 당시 깊이 이해하지 못했다고 말하며, 같은 실수를 반복하지 않겠다고 밝혔다.
• 추론 시장을 두고는 처리량이 항상 우선이던 관성이 바뀌고 있다고 본다. 토큰의 가치가 올라가면서 응답이 빠른 대신 처리량이 낮은 구간에도 별도의 시장이 생겼다는 것이다.

자주 묻는 질문

관련 AI 소식