씽킹 머신스 첫 공개 모델 분석: 오픈 가중치 전략과 아키텍처, 그리고 가격 경쟁력의 한계

핵심 메시지

• 오픈AI에서 최고기술책임자를 지낸 미라 무라티가 2025년 2월 설립한 씽킹 머신스가 첫 플래그십 모델을 아파치 2.0 라이선스의 오픈 가중치로 공개했다.
• 영상 분석에 따르면 이 모델은 예비 벤치마크에서 중위권에 머물렀고, 가격도 가장 저렴한 축이 아니며 크기도 작지 않다.
• 아키텍처의 상당 부분은 기존 공개 모델에서 파생된 구성이며, 상대적 어텐션 조정과 합성곱 층 추가 정도가 눈에 띄는 변형이다.
• 9750억 파라미터 규모라 일반 정밀도로는 약 2테라바이트의 VRAM이 필요하고, 저정밀 형식을 쓰면 요구량이 크게 줄지만 여전히 최상급 GPU 여러 장이 필요하다.
• 모델 계층이 상품화될수록 가치는 응용 계층과 인프라·칩 계층으로 이동하며, 이 구도에서 관건은 성능보다 사용 비용이 된다.

쉽게 이해하기

오픈AI의 최고기술책임자였던 미라 무라티는 2024년 회사를 떠나 이듬해 2월 씽킹 머신스를 세웠다. 막대한 투자를 받고 1년 반 가까이 준비한 끝에 내놓은 첫 플래그십 모델이 이번에 공개됐는데, 영상 진행자는 이 모델이 가중치를 공개하는 방식으로 나온 점 자체는 생태계에 분명한 순기능이라고 평가한다. 폐쇄형 연구소들이 모델을 독점하는 구도를 원하는 사람은 없기 때문이다.

다만 내용 면에서는 아쉬움이 크다는 것이 그의 진단이다. 예비 벤치마크에서 이 모델은 비슷한 시기에 나온 공개 모델들 사이에서 중간 정도에 위치했고, 가격도 가장 저렴하지 않으며 크기도 작지 않다. 진행자는 이 모델이 석 달만 일찍 나왔다면 큰 사건이었을 것이라며, AI 분야에서 석 달 사이에 얼마나 많은 변화가 일어나는지를 보여주는 사례라고 말한다.

아키텍처를 뜯어보면 대부분의 구성 요소가 새로운 것은 아니다. 전문가 혼합 구조는 기존 공개 모델의 설계를 파생한 형태이고, 슬라이딩 윈도 어텐션과 전역 어텐션을 섞은 하이브리드 방식도 이미 알려진 기법이다. 진행자는 상대적 어텐션을 변형한 부분과, 단기 패턴 처리를 어텐션과 전문가 혼합 모듈에서 덜어내기 위해 합성곱 층을 넣은 점 정도를 흥미로운 적응으로 꼽는다.

실제로 돌리려면 부담이 크다. 9750억 파라미터 규모라 일반 정밀도에서는 모델을 올리는 데만 약 2테라바이트의 VRAM이 필요하고, 제조사가 권장하는 구성도 최상급 GPU 여덟 장 수준이다. 저정밀 형식을 지원해 요구량을 600기가바이트대로 낮출 수 있지만 그래도 네 장이 필요하다. 결국 대부분의 사용자는 추론 서비스 업체를 통해 접근할 수밖에 없다는 뜻이다.

진행자가 더 기대를 거는 쪽은 곧 나올 소형 모델이다. 2760억 파라미터에 활성 파라미터는 120억 수준으로, 연산 부담이 크게 줄고 음성과 시각을 함께 다루는 능력도 벤치마크상 강해 보인다는 것이다. 그는 씽킹 머신스가 성능 경쟁보다 기업 도입 쪽에 무게를 두고 있다고 보며, 공개 자료가 자사 플랫폼을 통한 미세조정과 맞춤화에 집중돼 있다는 점을 근거로 든다.

주요 인사이트

• 가중치를 공개하는 결정 자체가 생태계에 주는 가치는 벤치마크 순위와 별개로 평가할 필요가 있다.
• AI 분야에서는 석 달의 지연만으로 화제성이 사라질 수 있어, 출시 시점이 모델의 평가에 결정적으로 작용한다.
• 안전을 이유로 공개 모델을 내놓지 않는 연구소와, 데뷔작을 곧바로 공개한 연구소의 대비는 같은 출발점에서도 전략이 갈릴 수 있음을 보여준다.
• 모델 계층이 상품화되면 가치는 위쪽의 응용 계층과 아래쪽의 인프라·칩 계층으로 옮겨가고, 중간에서는 가격 경쟁만 남는다.
• 파라미터 수가 클수록 필요한 VRAM이 급격히 늘어나 저정밀 형식 지원 여부가 실제 배포 가능성을 좌우하며, 활성 파라미터가 작은 소형 모델이 오히려 실사용에서 현실적인 선택지가 되기 쉽다.

자주 묻는 질문

관련 AI 소식