AI 데이터센터 경제학 — 메가와트당 6천만 달러, AI 인프라 투자 구조 해부

핵심 메시지

• 5대 하이퍼스케일러의 AI 데이터센터 투자(CapEx)는 미국 국방예산 다음가는 규모로, 맨해튼 프로젝트나 고속도로망 건설을 넘어선다.
• AI는 데이터·알고리즘·컴퓨팅·에너지·데이터센터의 결합물이며, 크루소는 이 가운데 에너지·데이터센터·컴퓨팅 인프라에 집중한다.
• 데이터센터 한 동을 세우는 데 메가와트당 데이터센터·발전소 약 2천만 달러, IT(GPU 등) 약 4천만 달러로 합계 약 6천만 달러가 든다.
• AI는 출산율로만 늘릴 수 있던 노동력을 데이터센터·GPU 투자로 디지털 노동으로 바꿔, GDP 성장을 가속하는 새로운 생산요소가 된다.
• 에이전트 수요로 H100 같은 구형 GPU 가격마저 출시가를 넘어섰고, CPU 부족 현상까지 나타나고 있다.

쉽게 이해하기

스탠퍼드 MS&E435 'AI 슈퍼사이클의 경제학' 강연에 AI 인프라 기업 크루소(Crusoe)의 창업자이자 CEO인 체이스 록밀러가 출연했다. 강연의 출발점은 5대 하이퍼스케일러의 AI 투자 규모를 보여주는 그래프다. 이 지출은 가파르게 우상향하며, 발표자에 따르면 우주 개발이나 미국 고속도로망, 맨해튼 프로젝트를 넘어 미국 국방예산 다음으로 큰 투자에 해당한다.

록밀러는 'AI를 만드는 데 무엇이 필요한가'라는 질문으로 비용 구조를 설명한다. 그는 AI를 데이터, 알고리즘(역전파·신경망·트랜스포머), 대규모 컴퓨팅, 에너지, 그리고 이 모든 것을 담는 물리적 건물인 데이터센터의 결합으로 정의한다. 크루소는 칩이나 모델 사업이 아니라 컴퓨팅·에너지·데이터센터 인프라를 수직 통합해 운영하는 회사이며, 실제로 돈이 가장 많이 쓰이는 영역도 바로 이 인프라라고 말한다.

왜 토큰이 가치 있는가에 대해 그는 콥-더글러스 생산 모델을 끌어온다. GDP 성장은 노동·자본·기술 변화의 합인데, 역사상 처음으로 AI가 '디지털 노동'을 만들어낸다는 것이다. 인간 노동력은 출산율로만 늘릴 수 있고 20년의 양성 기간이 필요하지만, 데이터센터와 GPU 투자로는 노동력을 디지털로 즉시 늘려 경제 성장을 가속할 수 있다는 설명이다.

구체적 사례로는 텍사스주 애빌린 캠퍼스가 등장한다. 2024년 6월 착공한 이곳은 8개 건물이 오라클·오픈AI(프로젝트 스타게이트)를 위한 것이며, 350MW 천연가스 발전소와 미국 최대 규모의 민간 변전소(1GW)를 갖췄다. 캠퍼스 전체 용량은 2.1기가와트로 '덴버 두 개분'의 전력에 해당한다. 현장에는 매일 약 9천 명이 일하고 5천 대 주차장이 가득 찬다. 애빌린을 택한 이유는 풍부한 풍력·태양광 탓에 전력이 남아돌고 송전망 부족으로 전기 가격이 마이너스였던 시장이었기 때문이다. '에너지를 옮기지 말고 데이터를 옮긴다'는 발상이다.

마지막으로 그는 수익성을 짚는다. 데이터센터·발전소에 메가와트당 약 2천만 달러, GPU 중심의 IT 인프라에 약 4천만 달러로 합계 약 6천만 달러가 선투자된다. 칩을 빌려주는 것만으로 메가와트당 연 약 1,500만 달러의 매출이 나와 약 4년 회수, 모델을 직접 호스팅해 토큰을 서빙하면 메가와트당 연 약 3천만 달러로 약 2년 회수가 가능하다고 본다. 학생들에게는 '무엇을 배우느냐'보다 '어떻게 배우고 AI 도구를 활용하느냐'에 집중하라고 조언했다.

주요 인사이트

• 병목은 고정돼 있지 않고 이동한다. 과거 칩이었던 병목은 지금은 전력이 들어온 데이터센터, 즉 칩을 꽂아 가동할 수 있는 '에너지화된 공간'과 이를 짓는 전기공·용접공·배관공 같은 숙련 노동으로 옮겨갔다.
• 물 소비 우려와 달리, 데이터센터는 약 100만 갤런의 물을 한 번 채운 뒤 순환시키며 연간 사용량은 단독주택 한 채 수준이라고 한다.
• GPU의 감가상각 기간이 핵심 변수다. 회계상 6년이 표준이지만, 에이전트 수요로 구형 H100과 블랙웰 가격이 오히려 오르면서 장비의 유효 수명이 더 길 수 있다는 주장이 나온다.
• 크루소는 모듈형 데이터센터 '크루소 스파크'(공랭식 500kW, 액랭식 2MW 단위)로 노동·인프라 비용을 30~50% 절감하려 한다.
• 록밀러는 혁신하지 않는 전통 전기 설비 업체에 장기적으로 부정적이고, 오픈소스 모델의 약진과 우주 데이터센터(스타클라우드 협업)의 장기 가능성에는 관심을 보였다.

자주 묻는 질문

관련 AI 소식