구글 제미나이 전용 AI 칩 '프로즌 v2', 컴퓨트 부족과 2028년 배치 목표까지 총정리

핵심 메시지

• 구글이 제미나이 계열 추론에 특화한 서버용 AI 칩(내부 코드명 프로즌 v2)을 2028년 배치를 목표로 개발 중이라는 소식이 전해졌다. 다만 아직 개발 초기 단계이며 구글이 공식 발표한 제품은 아니다.
• 배경은 심각한 컴퓨트 부족이다. 순다르 피차이 CEO는 두 분기 연속 단기적으로 컴퓨트 제약 상태라고 공개적으로 인정했고, CFO는 3분기에 외부 인프라 사용을 더 늘리겠다고 밝혔다.
• 제미나이 3.6 플래시가 소프트웨어에서 출력 토큰과 도구 호출을 줄인다면, 프로즌 v2는 하드웨어에서 불필요한 데이터 이동과 범용 회로를 줄인다. 같은 비용 문제를 위아래에서 동시에 공략하는 구조다.
• LLM이 답을 한 토큰씩 생성하는 동안에는 가중치와 중간 데이터를 계속 옮겨야 해서, 연산 자체보다 데이터를 가져오는 데 더 많은 전력이 들기도 한다. 전용 칩은 고정된 구조를 활용해 이 이동과 제어 부담을 줄이려는 시도다.
• 전용 칩의 진짜 위험은 성능이 기대에 못 미치는 것이 아니라 타이밍이다. 칩이 완성될 무렵 제미나이가 다른 구조로 바뀌어 있으면 구형 모델 전용 설비로 남는다.

쉽게 이해하기

구글의 2분기 실적은 매출도 클라우드도 시장 예상을 넘겼지만 주가는 시간외 거래에서 5% 하락했다. 실적 자체보다 지출 규모가 발목을 잡은 셈인데, 그 배경은 발표 직전 일주일 사이 나온 세 가지 소식에 이미 드러나 있었다. 준비 중이던 제미나이 3.5 프로가 내부 성능 목표를 채우지 못해 늦어지고 있다는 보도가 나왔고, 기다리던 프로 대신 제미나이 3.6 플래시가 먼저 등장했으며, 그 무렵 새로운 전용 AI 칩 프로젝트의 존재가 알려졌다.

프로즌 v2로 알려진 이 프로젝트는 제미나이에 맞춘 서버용 AI 칩을 2028년에 배치하는 것을 목표로 하며, 관계자들은 기존 맞춤형 AI 칩보다 전력당 토큰 처리량을 여섯 배에서 열 배까지 높일 수 있을 것으로 기대한다고 전해졌다. '프리즈(freeze)'는 모델 학습에서 더 이상 바꾸지 않을 값을 잠근다는 뜻으로 쓰이는데, 소프트웨어에서 자유롭게 바꾸던 정보 일부를 바꾸기 어려운 실리콘에 고정한다는 발상과 잘 맞아떨어진다. 이런 구상이 처음은 아니어서, 구글 딥마인드의 제프 딘이 제안한 것으로 전해지는 1차 구상은 제미나이의 가중치까지 칩에 직접 새기는 훨씬 과격한 방식이었다. 하지만 모델 수명이 곧 칩 수명을 결정해 버린다는 위험이 너무 커 폐기됐고, v2는 가중치 전체 대신 여러 세대에 걸쳐 반복될 가능성이 높은 구조와 처리 방식에 집중하는 쪽으로 검토되고 있다.

구글이 이 정도로 과감한 선택을 고민하는 이유는 수요가 증설 속도를 앞지르고 있기 때문이다. 구글은 2026년 10월부터 매달 9억 2천만 달러를 지급하고 약 11만 개의 엔비디아 GPU를 포함한 외부 컴퓨팅 자원에 접근할 예정이며, 이를 자체 데이터센터가 완성될 때까지의 '브릿지 캐파'라고 설명했다. 2분기 클라우드 매출은 전년 동기 대비 82% 늘어난 248억 달러였고 아직 매출로 잡히지 않은 백로그는 5,140억 달러로 직전 분기 4,620억 달러에서 한 분기 만에 500억 달러 넘게 불었으며, 올해 설비 투자 계획도 직전 분기에 제시한 1,900억 달러에서 최대 2,500억 달러로 다시 올라갔다.

부담은 기업용 클라우드에만 있지 않다. 검색창에 질문을 넣으면 링크 위에 먼저 뜨는 AI 오버뷰의 월간 이용자는 25억 명을 넘었고 AI 모드도 10억 명을 기록했다. 구글의 AI 제품과 API가 처리하는 토큰은 한 달 약 3,200조 개로 1년 전보다 일곱 배 늘었으며, 모델 API만 놓고도 분당 220억 토큰을 처리해 한 분기 전 160억 토큰에서 석 달 만에 약 37% 증가했다.

여기서 범용 모델과 전용 칩이 만난다. 3.6 플래시는 코딩뿐 아니라 지식 업무, 장문서와 멀티모달 분석, 공간 추론, 에이전트 실행까지 폭넓게 겨냥하면서도 이전 3.5 플래시보다 출력 토큰을 평균 17% 적게 쓰고 추론 단계와 도구 호출 횟수를 줄였다. 사용자에게는 더 많은 일을 맡길 수 있는 범용 모델이지만, 데이터센터에서 보면 수많은 서비스에서 반복되는 하나의 거대한 워크로드가 된다. 모델의 쓰임새가 넓어질수록 그 아래에서 반복되는 공통 연산 전용 칩의 경제성이 오히려 커지는 것이다.

주요 인사이트

• 경쟁의 축이 옮겨가고 있다. 과거에는 누가 더 어려운 문제를 푸느냐가 중심이었다면, 이제는 같은 답을 얻는 데 컴퓨트를 얼마나 적게 썼는지가 경쟁력이 된다. 모델이 무조건 길게 생각하는 것이 아니라 필요한 만큼만 계산하고 끝내는 능력이 중요해졌다.
• AI 서비스의 비용은 벤치마크 점수 하나로 결정되지 않는다. 답을 만드는 데 쓴 토큰 수, 거친 추론 단계, 외부 도구 호출 횟수, 그리고 그 계산이 실행된 칩이 모두 합쳐져 비용이 된다. 구글은 지금 이 층들을 동시에 손보고 있다.
• 전용 칩의 특화 정도에는 여러 단계가 있다. GPU와 TPU가 다양한 모델을 처리하는 쪽이라면, 트랜스포머 구조에만 집중한 칩이나 특정 모델의 가중치까지 하드웨어에 고정한 칩처럼 더 좁게 파고든 시도도 이미 나와 있다. 프로즌 v2는 그 사이 어딘가를 노리는 것으로 보이며, 정확한 위치는 구글도 아직 정하지 못한 단계로 보인다.
• 프로즌 v2는 TPU를 대체하는 차세대 칩이 아니라 별도의 실험 라인에 가깝다. 학습과 새로운 구조 실험에는 유연한 GPU·TPU가 여전히 필요하고, 구조가 안정된 대량 추론에만 전용 칩을 붙이는 역할 분담이다. 생산량도 TPU보다 훨씬 적을 것으로 전해진다.
• 가장 큰 모순은 속도 차이에 있다. 모델은 변해야 경쟁력이 생기지만 전용 칩은 모델이 크게 변하지 않아야 경제성이 생긴다. 피차이 CEO는 앞으로 거의 매달 새 모델을 내놓을 계획이며 이미 제미나이 4 개발에 상당한 컴퓨트를 투입하고 있다고 밝혔는데, 반도체는 설계부터 배치까지 몇 년이 걸린다.

자주 묻는 질문

관련 AI 소식