세레브라스 상장과 웨이퍼 스케일 칩: 앤드루 펠드먼이 말한 10년의 역발상과 OpenAI 계약

핵심 메시지

• 세레브라스는 우표 크기 칩이 표준인 업계에서 4만6천 제곱밀리미터, 접시만 한 웨이퍼 스케일 칩을 택했고 이는 100% 역발상 베팅이었다.
• 2017년 중반부터 2019년 중반까지 2년간 칩을 만들지 못한 채 월 800만 달러를 태웠고, 6주마다 이사회에서 '아직 안 된다'고 보고해야 했다.
• 기술을 완성하고도 2~3년간 아무도 관심을 주지 않았다. 모델이 쓸모 있어진 2025년에야 속도가 중요해졌다는 것이 펠드먼의 설명이다.
• OpenAI와의 200억 달러 이상 계약은 추수감사절 전날 텀시트를 쓰고 4주 반 만에 본계약까지 갔다.
• 속도는 기존 사업을 조금 낫게 만드는 것이 아니라 새로운 사업을 연다. 넷플릭스가 DVD 배송에서 영화 스튜디오로 넘어간 것이 그 예다.

쉽게 이해하기

No Priors에 세레브라스 공동창업자 겸 CEO 앤드루 펠드먼이 출연했다. 회사가 상장해 시가총액이 600억 달러대에 이른 직후의 대화로, 진행을 맡은 사라 궈와 엘라드 길은 몇 년 전 같은 팟캐스트에 나왔던 그를 다시 불러 그 사이 무슨 일이 있었는지 물었다. 펠드먼이 말하는 회사의 정체성은 단순하다. AI 작업을 가속하도록 설계된 컴퓨터를 만들며 현재 추론이 가장 빠른데, 조금 빠른 정도가 아니라 GPU 대비 15~20배이고 모델의 크기나 출신을 가리지 않는다는 것이다.

출발점의 베팅은 두 가지였다. AI라는 새 워크로드가 막대한 연산을 잡아먹을 것이고, 그것은 기존 아키텍처의 파생이 아닌 전용 설계를 요구하리라는 것이었다. 그래픽이 등장했을 때 인텔도 AMD도 아닌 엔비디아가, 모바일에서는 ARM이 자리를 가져갔다는 역사가 근거였다. 그래서 세레브라스는 우표 크기 칩이 표준인 업계에서 4만6천 제곱밀리미터짜리 웨이퍼 스케일을 골랐고, 이는 컴퓨터 역사 70년간 여러 시도가 실패하고 이 분야의 거인으로 꼽히는 진 암달조차 처참히 실패했던 문제였다.

가장 힘들었던 구간은 기술이 아니라 시간이었다. 2017년 중반부터 2019년 중반까지 2년 동안 만들어지지 않았고, 매달 약 800만 달러가 나갔으며, 6주마다 열리는 이사회에서 여전히 안 된다고 말해야 했다. 실패 분석을 반복하며 조금씩 나아지다 2019년 여름 마침내 수율이 나왔고, 임시 사무실에서 화면을 바라보던 팀은 30분 동안 아무 말도 하지 못했다고 한다.

그리고 더 긴 침묵이 이어졌다. 아무도 풀지 못한 문제를 풀었는데 아무도 신경 쓰지 않아 1세대는 열 몇 대, 2세대는 300대 남짓 팔렸고 3세대에 와서야 수만 대 규모가 됐다. 펠드먼의 진단은 명확하다. 매일 쓰는 도구는 느려서는 안 되지만 2025년 이전의 AI는 매일 쓰는 것이 아니었고, 느린 검색 시장의 크기가 0이듯 느린 추론 시장도 0이 되리라는 것이다. 그 간극을 건넌 다리는 국부 성격의 파트너 G42였다. 국립 연구소와 석유·가스, 제약 고객만으로는 주류로 갈 물량이 나오지 않던 상황에서 10억 달러 규모 주문이 들어와 공급망을 바꾸고 대규모 클러스터를 실제로 배치해 시험할 수 있었다.

준비가 되어 있었기에 기회가 왔을 때 받을 수 있었다. 2025년 여름 샘 올트먼과의 대화에서 처음으로 빠른 추론의 중요성이 언급됐고, 시험을 거쳐 추수감사절 전날 밤 텀시트에 서명한 뒤 12월 24일 본계약을 맺었다. 200억 달러가 넘는 거래를 4주 반 만에 처리한 것이고, 이듬해 3월에는 AWS 데이터센터에 배치하는 계약도 체결됐다. 상장을 택한 이유로는 자본 비용을 낮추는 대신 엄격한 규칙의 지배를 받는 거래라는 설명과 함께, 게임도 그래픽도 PC도 없이 매출 100%가 이 시장에서 나오는 순수 AI 기업이라는 차별성을 꼽았다. 그는 이를 기업의 청소년기에서 성인기로 졸업하는 일이라고 표현했다.

주요 인사이트

• 언제 포기해야 하는지에 대한 답으로 펠드먼은 '이기기 위해 필요한 조건들을 미리 가설로 적어 두고, 그것들이 모두 부정적으로 돌아왔을 때'를 들었다. 문제는 하나만 더 시험해 보자며 미끄러지는 것이며, 1년 전 자신이 세운 기준을 상기시켜 줄 경험 많은 조력자가 곁에 있어야 한다고 조언했다.
• 사내 AI 코딩 도입 실태를 수치로 밝힌 대목이 흥미롭다. 8개월 전에는 엔지니어 1인당 토큰 비용이 월 1천 달러도 되지 않았는데 지금은 2만5천~3만 달러 수준이라는 것이다. 다만 모두에게 유용한 것은 아니며, 소수는 8~10개의 에이전트를 상시 돌리고 QA 에이전트를 따로 두는 식으로 '에이전트를 통솔하는' 방식으로 옮겨가 10배에서 100배가 됐지만 자신을 포함한 나머지는 아직 더듬거리고 있다고 인정했다.
• 직원 800~850명에 시가총액 600억 달러대라는 대비가 대화 중 언급됐다. 펠드먼이 경계하는 것은 규모가 커지며 조직이 위험을 감수하지 않게 되는 것이다. 그는 '평범한 일에 성공하기보다 비범한 것을 좇다 실패하는 편이 낫다'는 문화를 지키겠다고 했고, 자리를 채우려 타협해 채용하는 것을 죽음이라 표현했다.
• 컴파일러 일화도 남는다. 창업 당시 공동창업자가 컴파일러를 만드는 데 10년이 걸린다고 하자 펠드먼은 대기업식 발상이라며 5년이면 된다고 했지만, 실제로는 10년이 걸렸다.
• 오픈소스 생태계에 대한 평가도 분명하다. 폐쇄형이 너무 비쌌을 때 오픈소스 커뮤니티가 관심의 불씨를 살렸고 폐쇄형 진영을 압박했으며, 중국 개발자들의 기법을 보며 더 큰 학습 클러스터와 더 많은 데이터에 안주할 수 없다는 자극을 받았다는 것이다.

자주 묻는 질문

관련 AI 소식