AI 데이터센터 전력과 냉각이 병목인 이유 — 130kW 랙과 액체냉각, 버티브 사례로 본 AI 인프라

핵심 메시지

• 엔비디아 AI 칩 하나가 1,000W 넘게 소비하고, 이런 칩 72개를 담은 랙 한 대는 약 130kW를 끌어간다. 냉장고 크기 공간에 미국 주택 100채분 전력이 들어가는 셈이다.
• 20년간 일반 서버 랙은 8~12kW 수준이었고 전체 데이터센터 평균은 지금도 10kW 미만인데, AI 랙은 그 열 배가 넘는다. 로드맵은 600kW를 지나 랙당 1메가와트를 향한다.
• 들어간 전력은 모두 열로 나온다. 공기는 열을 나르는 매체로 형편없어 130kW 랙을 공기로 식히는 것은 헤어드라이어 찬바람으로 모닥불을 끄려는 격이고, 그래서 산업 전체가 액체냉각으로 달려가고 있다.
• AI는 데이터센터 수요만 늘린 것이 아니라 데이터센터 한 채를 짓는 일 자체를 어렵게 만들었다. 메가와트당 들어가는 전력·배관·감시·유지보수의 가치가 함께 올라갔다는 뜻이다.
• 이 층을 대표하는 버티브의 최근 분기 매출은 26억 5,000만 달러로 30% 늘었고 주당순이익은 83% 늘었지만, 수주잔고 공시 중단과 소수 고객 편중, 이미 높아진 주가라는 위험도 함께 지적됐다.

쉽게 이해하기

챗봇에 질문을 던지면 그 요청은 축구장 몇 개 크기의 실제 건물로 간다. 발표자는 데이터센터를 하나의 생명체에 비유한다. 연산을 담당하는 서버가 뇌라면, 전력을 받아 변환하고 정리해 모든 랙에 나눠 주는 전기 계통은 혈류이고, 그 전기가 만들어낸 열을 끊임없이 밖으로 내보내는 냉각 계통은 폐다. 혈류가 몇 초만 멈춰도 뇌는 죽는다.

그래서 데이터센터는 편집증에 가까울 만큼 이중, 삼중의 예비 장치를 갖춘다. 대형 사업자에게 정전은 몇 분 만에 수백만 달러의 손실로 이어지고 학습 중이던 작업도 통째로 날아가기 때문이다. 배터리와 발전기, 여분의 냉각 루프, 실시간 감시 시스템이 겹겹이 들어간다. 오랫동안 지루한 산업이던 이 영역은 AI가 등장하면서 완전히 달라졌다.

숫자가 바뀐 폭이 문제의 크기를 보여준다. 20년 동안 서버 랙 한 대는 8~12kW 정도를 썼고 지금도 전체 데이터센터 평균은 10kW를 넘지 않는다. 앞에서 찬 공기를 넣고 뒤로 더운 공기를 빼는 단순한 방식으로 충분했다. 그런데 AI 랙은 120~130kW를 쓰고, 다음 세대는 600kW, 그다음은 1메가와트를 바라본다. 이 밀도에서는 공기 냉각이 물리적으로 작동하지 않는다. 공기를 충분히 빨리 움직일 수 없고, 설령 가능해도 팬이 쓰는 전기만으로 비용이 감당되지 않는다.

대안은 액체다. 액체는 공기보다 열을 수천 배 잘 나른다. 실제 방식은 미세한 유로가 파인 금속판을 칩 위에 직접 붙이고 냉각수를 흘려 발열 지점에서 바로 열을 흡수해 배관으로 빼내는 것이다. 자동차 라디에이터와 원리가 같지만 대상이 수만 달러짜리 GPU라는 점이 다르다. 여기에 냉각수를 수백 개 칩으로 밀어 보내고 건물 물 순환계와 열을 교환하는 냉각수 분배 장치(CDU)가 선택 사양에서 필수 장비로 바뀌었다.

발표자가 사례로 든 버티브는 메인프레임 시절부터 전산실을 식혀 온 리버트에 뿌리를 두고 2020년 상장한 회사로, 무정전 전원장치와 배전 설비, 열관리, 그리고 5,000명이 넘는 현장 엔지니어의 유지보수를 함께 판다. 최근 분기 매출은 26억 5,000만 달러로 30% 늘었고 주당순이익은 83% 늘어, 매출보다 이익이 세 배 가까이 빠르게 커지는 영업 레버리지가 나타났다. 다만 발표자는 회사가 수주잔고 수치 공시를 최근 중단했다는 점, 소수의 초대형 고객이 매출의 절반 가까이를 차지할 수 있다는 점, 액체냉각이 아직 매출의 10% 남짓이라는 점을 함께 짚었다. 그는 이 영상이 교육 목적이며 투자 조언이 아니라고 밝혔다.

주요 인사이트

• AI 병목을 반도체로만 보는 시각은 절반만 맞다. 칩 밀도가 올라갈수록 전력을 안전하게 들여보내고 열을 빼내는 물리 문제가 먼저 한계에 닿는다.
• 액체냉각은 '더 좋은 선택지'가 아니라 물리적 필연에 가깝다. 공기의 열 전달 능력이 랙 밀도를 따라가지 못하는 순간부터는 대안이 사실상 없다.
• 설비 기업의 진짜 해자는 하드웨어보다 서비스에 있다. 장비가 건물에 한번 들어가면 이후 십 년간 유지보수를 같은 회사에 맡기게 되고, 이 매출은 하드웨어보다 이익률이 높고 잘 끊기지 않는다.
• 수주잔고와 북투빌 비율은 이 산업의 체온계다. 출하한 1달러어치마다 3달러에 가까운 신규 주문이 들어온다는 것은 식당으로 치면 한 끼를 낼 때마다 세 팀이 대기줄에 서는 상태인데, 그만큼 정상화될 때의 낙폭도 크다.
• 고객 편중은 이 층 전체의 구조적 위험이다. 초대형 클라우드 사업자 몇 곳이 설비 투자 계획을 한 번만 늦춰도 공급망 전체의 한 해가 바뀐다.

자주 묻는 질문

관련 AI 소식