AI 컴퓨트 가격 10배 상승론: 매출 10배와 연산량 3배 사이의 격차가 만드는 결과

핵심 메시지

• 앤스로픽 매출은 3년 연속 전년 대비 10배씩 늘었지만, AI 랩이 확보하는 연산량은 해마다 3배 남짓 증가하는 데 그친다.
• 이 격차가 해소되는 길은 랩의 마진 상승, 컴퓨트 가격 상승, 추론에 쓰는 연산 비중 상승 세 가지뿐이며 셋 다 이미 진행 중이다.
• 랩은 추론 비중을 늘리는 선택을 꺼린다. 연산 대부분을 서비스에 쓴다는 것은 사실상 다음 모델을 못 만든다는 신호로 읽히기 때문이다.
• 모델이 똑똑해질수록 같은 GPU 한 장으로 벌 수 있는 돈이 커지므로, 컴퓨트의 가치는 지금 가격보다 훨씬 높아질 수 있다.
• 연산량이 연 3배 늘어나는 구조 자체가 흔들리고 있다. 공정 미세화, 신규 팹, 스마트폰·PC 물량 흡수라는 세 축이 모두 한계에 가까워지고 있다.

쉽게 이해하기

드워케시 파텔이 자신의 블로그 글을 영상으로 옮긴 분석이다. 출발점은 단순한 산수다. 앤스로픽 매출은 3년 연속 전년 대비 10배로 늘어 지난해를 90억 달러로 마감했고, 이 추세가 이어진다면 올해는 1000억~1500억 달러 규모가 된다. 그리고 추세가 한 해 더 이어지려면 내년 말에는 1조 달러를 벌어야 한다. 그는 이 결론이 터무니없어 보인다는 점을 인정하면서도, 그런 세계가 실제로 온다면 무슨 일이 벌어지는지를 따져보자고 제안한다.

문제는 매출이 10배 늘 때 랩이 쓸 수 있는 연산량은 3배밖에 늘지 않는다는 점이다. 이 간극을 메우는 방법은 셋뿐이다. 랩의 마진이 올라가거나, 컴퓨트 가격이 올라가거나, 학습 대신 추론에 쓰는 연산 비중이 올라가는 것이다. 그의 관찰로는 셋 다 이미 벌어지고 있다. 추론 마진은 지난해 중반 40% 수준에서 80% 이상으로 올라섰고, 컴퓨트 현물 가격은 올해 2월 저점 대비 40% 넘게 뛰었으며, 2024년 기준 추론에 4분의 1을 쓰던 비중은 지금 절반 이상으로 추정된다.

다만 세 번째 선택지는 랩이 원하는 방향이 아니다. 랩의 논리에서 추론 매출은 다음 모델을 학습시킬 투자금을 끌어오기 위한 근거다. 연산 대부분을 추론에 쏟아붓는 순간, 그것은 성능 향상이 멈췄고 이제는 클라우드 사업자가 되었다는 선언에 가까워진다. 랩은 그런 사업에 있고 싶어하지 않는다. 그렇다면 남는 것은 마진 상승과 컴퓨트 가격 상승인데, 지능이라는 상품의 마진이 90%를 넘고도 경쟁으로 깎이지 않는 세계는 상상하기 어렵다는 것이 그의 판단이다. 결국 컴퓨트 가격 쪽으로 압력이 몰린다.

특히 최전선 랩이 실제로 필요로 하는 종류의 물량은 현물 시장에서 조각으로 사올 수 없다. 효율과 유연성을 확보할 만한 규모여야 하고, 모델 가중치와 고객 정보를 지킬 수준의 보안 요건도 맞아야 한다. 영상은 구글이 최신 GPU 11만 장 규모를 월 9억 달러에 빌려 쓰는 사례를 들며, 여기서 지불되는 시간당 단가가 현물가의 두 배이고 그 현물가마저 2월 대비 40% 넘게 오른 값이라고 짚는다.

핵심 논지는 여기서 나온다. 모델이 똑똑해질수록 같은 연산으로 더 많은 돈을 벌 수 있다는 것이다. 사람 수준의 소프트웨어 엔지니어를 GPU 한 장에서 돌릴 수 있다면, 오늘날 엔지니어 인건비를 기준으로 그 한 장의 연간 임대료는 25만 달러를 넘어야 한다. 현재 현물가의 15배가 넘는 값이며, 밤낮과 주말 없이 일한다는 점은 계산에 넣지도 않았다. 물론 소프트웨어 엔지니어가 갑자기 1000만 명 늘면 한 사람의 한계 가치는 떨어질 것이라는 반론이 가능하지만, 그는 이민이 장기적으로 임금을 떨어뜨리지 않는다는 경제학의 통설을 들어 그 반론이 '노동 총량의 오류'일 수 있다고 본다.

그런 세계에서는 몇 가지가 달라진다. 상위 랩이 연산을 더 잘 수익화할수록 다른 참여자는 같은 자원을 놓고 입찰에서 밀린다. 연산을 아껴 같은 결과를 내는 모델은 훨씬 높은 프리미엄을 받게 되는데, 비싼 자원을 덜 먹는 재화가 더 비싸게 팔리는 알키안-앨런 효과다. 그리고 지금 값싸게 쓰이는 상당수 응용은 가격에서 밀려난다. AI 연구를 자동화하려는 쪽이 지불할 의사가 재미 삼아 콘텐츠를 뽑는 쪽보다 훨씬 크기 때문이다.

그는 자기 논지가 과거 희소성 예측이 빗나갔던 패턴을 닮았다는 점도 스스로 지적한다. 인구 폭발을 경고했던 에얼릭이 원자재 가격 내기에서 진 사례가 대표적이다. 다만 컴퓨트 공급은 금속 채굴보다 탄력성이 훨씬 낮고 대체재를 찾기도 어렵다고 본다. 연 3배 증가라는 숫자를 뜯어보면 공정 미세화가 1.4배, 신규 팹 건설이 1.2배, 스마트폰과 PC에 가던 웨이퍼 물량을 AI가 흡수하는 몫이 1.8배다. 마지막 요소는 최선단 공정의 AI 비중이 60%에서 86%에 이르면 더 늘릴 여지가 사라지고, 팹 증설은 노광 장비 생산에 발목이 잡힌다.

물론 영원히 비싼 것은 아니다. 언젠가 로봇이 모래와 구리 광석을 칩으로 바꿔낼 수 있게 되면 컴퓨트 값은 원자재와 가공 도구 비용 수준으로 내려간다. 그가 말하는 것은 그 이전 국면, 즉 AI의 가치가 커지는 속도를 연산량 증가가 따라잡지 못하는 지금의 구간이다. 매출이 10배 뛰는 동안 연산은 3배만 늘었다는 사실 자체가 모델 사업의 규모의 경제가 얼마나 강한지를 보여준다. 학습은 한 번 치르는 비용이고 그 결과는 모든 사용자에게 공유되지만, 사람은 한 명 한 명 새로 가르쳐야 한다. 그는 이런 세계가 권력 집중을 부른다는 점을 우려한다고 덧붙인다.

주요 인사이트

• AI 사업의 병목은 수요가 아니라 공급이다. 매출 곡선과 연산 곡선의 기울기 차이가 계속되는 한, 그 차이는 가격이나 마진 어딘가에서 반드시 표면화된다.
• 추론에 연산을 얼마나 쓰는지는 단순한 운영 지표가 아니라 시장에 보내는 신호다. 랩이 그 비중을 늘리기 꺼리는 이유는 비용이 아니라 '더 나은 모델을 만들고 있다'는 서사를 지키기 위해서다.
• 모델 효율이 곧 가격 결정력이 된다. 컴퓨트가 비싸질수록 토큰을 적게 쓰고 같은 결과를 내는 모델이 압도적으로 유리해진다.
• AI가 싸다는 지금의 감각은 AI가 아직 못 하는 일이 많다는 사실에 기대고 있다. 능력이 올라가면 저부가 용도는 가격에서 먼저 밀려난다.
• 연산량 증가율은 여러 요인의 곱이고, 그중 가장 큰 몫은 다른 산업에서 가져온 생산능력이다. 이는 한 번 쓰면 되돌릴 수 없는 일회성 재원에 가깝다.

자주 묻는 질문

관련 AI 소식