토크노믹스란 무엇인가 — 리눅스 재단이 AI 토큰 비용 폭증에 대응해 새 재단을 만든 이유

핵심 메시지

• 개발자들이 토큰을 얼마나 많이 쓰는지 겨루던 '토큰 맥싱' 시대가 끝나고, 예산이 터진 기업들이 사용량에 하드 캡을 거는 '거대한 토큰 패닉'이 시작됐다.
• 리눅스 재단이 토크노믹스 재단을 출범시켜, '에너지에서 지능으로, 지능에서 가치로' 이어지는 AI 비용 문제를 벤더 중립적으로 정리하기로 했다.
• AI 지출은 토큰값만이 아니다. 메모리와 벡터 데이터베이스, 검색, 오케스트레이션, 평가와 거버넌스, 그리고 엔지니어 인건비까지가 실제 비용이다.
• 토큰 가격이 계속 떨어진다는 통념과 달리, 하드웨어와 전력 부족 탓에 최신 모델의 가격은 거의 그대로이거나 고급형은 오히려 더 비싸다.
• 모든 일에 가장 좋은 모델을 쓰는 대신 작업에 맞는 모델을 프로그램으로 골라 주는 '모델 라우팅'이 핵심 과제로 떠올랐다.

쉽게 이해하기

구글 클라우드의 팟캐스트 '에이전트 팩토리'에 리눅스 재단의 토크노믹스 재단을 이끌게 된 J.R. 스토먼트가 나왔다. 진행자 루크 슐랭엔이 던진 질문은 명확했다. AI를 통째로 꺼 버리지도, 매출 전부를 토큰에 쏟아붓지도 않으면서 실제 가치를 얻으려면 어디에 선을 그어야 하는가. 리눅스 재단은 리눅스 커널과 쿠버네티스를 비롯해 1,200개가 넘는 오픈소스 프로젝트를 품고 있는 비영리 단체이고, 스토먼트는 그중 클라우드 비용 관리 분야인 파인옵스 재단이 속한 조직을 맡고 있다.

그는 최근 몇 년을 시대로 나눠 설명했다. 챗봇이 말귀를 알아듣고 코드를 그럭저럭 쓰던 2023년 초부터 2025년 11월까지가 '젠AI의 옛날'이고, 여러 제공사가 새 모델을 한꺼번에 내놓은 2025년 11월 이후가 구독제와 무제한 사용, 토큰 맥싱의 시대였다. 리누스 토르발스가 2025년 11월에 "바이브 코딩은 중요한 일에 쓰지 말라"고 했다가 두어 달 뒤 자신의 첫 바이브 코딩 프로젝트를 공개한 일화, 포춘 50대 기업의 글로벌 CIO가 "AI 예산은 무제한"이라고 말했다는 일화를 그 시절의 공기로 들었다. 그리고 4월 무렵부터 예산 초과 기사가 매일 쏟아지며 토큰 패닉이 시작됐다.

숫자는 가파르다. 오픈라우터를 지나간 토큰만 봐도 지난해 6월부터 11월까지는 선형으로 늘다가 새 모델들이 나온 뒤로 비선형으로 꺾여 올라갔고, 세로축 단위는 조가 아니라 그 위였다. 골드만삭스 추정을 인용한 전체 토큰 소비량은 현재 6,000조 개 규모이며 3년 반 뒤에는 12경 개 수준으로 늘어날 것으로 전망됐다. 스토먼트는 토큰이 20세기의 석유에 견줄 만큼 경제 전반에 영향을 준다면서도, 배럴 단위가 일정한 석유와 달리 토큰은 모델과 제공사마다 무게가 달라 표준화가 어렵다는 점을 함께 짚었다.

그가 강조한 핵심은 토큰이 AI 비용의 전부가 아니라는 것이다. 메모리와 벡터 데이터베이스, 검색과 데이터, 오케스트레이션과 추론, 평가와 모니터링, 거버넌스, 그리고 가장 큰 항목인 엔지니어 인건비까지가 실제 지출이다. 그는 클라우드 비용에서 컴퓨트가 한 조각이듯 토큰도 한 조각일 뿐이라고 비유했다. 다만 그 원자 단위가 다른 모든 비용을 밀어 올린다는 점에서 중심에 놓인다. 기존 파인옵스와 다른 지점도 여기다. 파인옵스는 이미 존재하는 자원을 쓰는 법을 다루지만, 토크노믹스는 데이터센터에 삽을 꽂는 단계부터, 즉 전력에서 토큰을 만들어 내는 생산 과정까지 시야에 넣는다.

실무 이야기도 나왔다. 핀터레스트의 한 수석 엔지니어는 클라우드만 쓰면서도 칩 세대와 사업자의 전력 여유, 추론 스택과 양자화, 라우팅과 거버넌스까지 따져야 한다는 '토크노믹스 소비의 5단 케이크'를 발표했다. 어도비는 컴퓨터과학의 빅오를 비튼 '빅T' 개념을 기부했는데, 어떤 작업이 선형 토큰을 쓰는지 비선형인지 아니면 완전히 무제한인지를 먼저 가늠한 뒤 모델 선택과 캐싱, 라우팅을 결정하자는 발상이다. 스토먼트는 마지막으로 "지금 AI가 당신의 일자리를 뺏지는 않겠지만, AI를 더 잘 쓰는 다른 사람은 분명히 뺏으러 온다"는 말로 마무리했다.

주요 인사이트

• 토큰 사용량으로 리더보드를 만들자 사용량이 폭증했다. "깨진 유리창 수로 평가하면 유리창이 많이 깨진다"는 그의 표현은 잘못 고른 지표가 어떤 행동을 부르는지 보여준다.
• 효율은 덜 쓰는 것이 아니라 더 큰 가치를 얻는 것이다. 날씨를 확인하려고 최상급 모델을 부르거나 간단한 산수에 최고가 모델을 쓰는 식의 낭비가 진짜 문제라는 지적이다.
• 월 200달러 구독제로 수만 달러어치 추론을 소비하는 '추론 고래'가 존재한다는 보도가 있었다. 상장을 준비하는 회사에게 이런 보조금 구조는 지속되기 어렵다.
• 인텔 CEO의 발언으로 소개된 전망에 따르면 하드웨어 공급난은 2028년까지 풀리지 않는다. CPU와 GPU, TPU는 물론 메모리와 구리까지 제약이라 '토큰 가격 하락'을 전제로 한 계획은 위험하다.
• 깃허브 통계에서 커밋과 코드 줄 수, 풀 리퀘스트가 최근 6개월간 수직 상승했지만 그것이 더 좋은 제품을 뜻하지는 않는다. 산출량 지표와 가치 지표는 다르다는 오래된 문제가 AI에서 되풀이된다.

자주 묻는 질문

관련 AI 소식