구글 클라우드 AI 하드웨어 총정리 — 이론우드 TPU·액시온·피지컬 AI

핵심 메시지

• 7세대 TPU '이론우드(Ironwood)'는 최대 9,216칩까지 확장되며, 랙 144개가 하나의 팟을 이루고 전체로는 최대 100만 개 TPU까지 대규모 학습에 쓸 수 있다.
• 칩과 칩 사이는 고속·저지연 인터커넥트(ICI)로 연결돼 대규모 학습에 필요한 속도를 낸다.
• ARM 기반 '액시온(Axion)' 칩은 데이터베이스·웹서버 같은 일반 연산을 담당하며, 비용 중심의 N4A와 성능 중심의 C4A로 나뉜다.
• '피지컬 AI'는 로봇에 AI라는 두뇌를 심어 창고·물류·제조의 수작업을 자율화하는 개념으로, 시뮬레이션 학습을 클라우드에서 병렬로 돌린 뒤 엣지로 배포한다.
• 규제로 클라우드를 쓰기 어려운 고객을 위해 구글 분산 클라우드(GDC)에서 제미나이를 온프레미스로 구동하며, 데이터가 사이트를 떠나지 않게 한다.

쉽게 이해하기

구글 클라우드는 'AI 인프라존'에서 4년째 자사 최신 인프라를 선보이며, 대규모 학습·일반 연산·엣지·온프레미스로 나눠 하드웨어를 소개했다. AI 워크로드를 실제로 떠받치는 물리적 인프라가 어떤 모습인지 보여주는 것이 이 투어의 목적이다.

대규모 학습의 핵심은 7세대 TPU 이론우드다. 단일 팟은 랙(큐) 144개로 구성되고 하나의 워크로드에 최대 9,216칩까지 확장되며, 전체적으로는 최대 100만 개 TPU 규모까지 늘릴 수 있다. 칩 사이는 고속·저지연 인터커넥트(ICI)로 이어져 학습 속도를 끌어올린다.

AI 워크로드 뒤에는 데이터베이스·웹서버·애플리케이션 같은 표준 연산이 있고, 이 데이터가 결국 AI를 먹여 살린다. 구글은 이 영역을 ARM 기반 액시온 칩으로 처리한다. 비용에 민감한 워크로드는 N4A, 성능이 중요한 워크로드는 C4A로 구분해 비용과 성능을 맞춘다.

클라우드에서 학습하되 엣지에 배포해야 하는 경우를 위해 '피지컬 AI'를 소개했다. 창고·물류·제조 현장의 수작업을 로봇이 자율적으로 처리하도록 로봇에 AI 두뇌를 넣는 개념이다. 실제 세계에서 로봇 수천 대를 동시에 훈련하는 대신, G4와 최신 엔비디아 RTX 그래픽 카드 위 시뮬레이션에서 병렬로 학습한 뒤 그 모델을 분산 클라우드를 거쳐 로봇으로 내려보낸다.

규제 요건 때문에 모든 것을 클라우드에서 할 수 없는 고객을 위해 구글 분산 클라우드(GDC)를 제시했다. 이번 행사에서 GDC 위에서 제미나이를 엔비디아 B300·블랙웰 시스템으로 구동하는 것을 발표했으며, 데이터가 사이트를 떠나지 않은 채 컴퓨트·네트워킹·스토리지를 갖춰 온프레미스에서 제미나이를 돌릴 수 있다고 설명했다.

주요 인사이트

• 구글은 학습(TPU)·일반 연산(액시온)·엣지/로봇(피지컬 AI)·온프레미스(분산 클라우드)라는 서로 다른 요구를 각기 다른 전용 하드웨어로 나눠 대응한다.
• 로봇 학습의 병목인 '실제 세계에서 수천 대 동시 훈련'을 클라우드 시뮬레이션 병렬화로 우회하고, 결과 모델만 엣지로 배포하는 구조가 피지컬 AI의 핵심이다.
• 규제 산업에서는 '혁신'과 '통제'가 충돌하는데, 온프레미스에서 제미나이를 돌리는 분산 클라우드가 데이터 주권을 지키면서도 최신 모델을 쓰게 하는 절충점으로 제시된다.

자주 묻는 질문

관련 AI 소식