AI VIDEO BRIEFING

Kimi K3와 잉클링 공개: 오픈웨이트 AI 모델 전략이 성능과 맞춤화로 갈라진 이유

같은 주에 공개된 중국 문샷AI의 Kimi K3와 미국 씽킹머신스의 잉클링은 둘 다 거대한 오픈웨이트 모델이지만 전략은 정반대다. 벤치마크 성적과 맞춤화 능력 중 무엇이 더 중요한지, 가중치를 받아도 돌릴 하드웨어가 없다는 현실까지 짚는다.

오픈웨이트 AI가 거대해졌다, '작고 저렴한 대안'이라는 공식이 깨진 한 주 영상 대표 이미지

핵심 메시지

  • Kimi K3는 프런트엔드 코드 아레나에서 18위에서 1위로 뛰어올랐지만, 문샷AI 스스로도 종합 성능은 최상위 폐쇄형 모델에 아직 못 미친다고 밝혔다.
  • 가중치가 공개돼도 4비트로 압축한 Kimi K3조차 약 1.4테라바이트의 메모리가 필요해, 개인용 맥이나 GPU 한 장으로는 실행할 수 없다.
  • 씽킹머신스는 잉클링이 '가장 강한 모델은 아니다'라고 먼저 인정하고, 대신 경쟁사 모델까지 맞춤화해 주는 파인튜닝 플랫폼 팅커를 사업의 축으로 삼았다.
  • 오픈웨이트의 실질적 이득은 개인의 로컬 실행이 아니라, 여러 사업자가 같은 모델을 호스팅하며 가격·지역·프라이버시 조건으로 경쟁하게 된다는 점이다.
  • 잉클링의 전문가 혼합 구조는 딥시크 V3를 상당 부분 따랐고 초기 지도 미세조정에 Kimi 계열 합성 데이터도 일부 쓰였다. 국경을 넘나드는 상호 참조는 이미 일상이다.

쉽게 이해하기

같은 주에 성격이 전혀 다른 두 개의 대형 공개 모델이 나왔다. 미국 쪽은 오픈AI 최고기술책임자 출신 미라 무라티가 세운 씽킹머신스 랩의 첫 주요 모델 잉클링이고, 중국 쪽은 문샷AI의 Kimi K3다. 발표에서는 오픈소스라는 말이 흔히 쓰이지만, 더 정확한 표현은 오픈웨이트다. 학습된 가중치를 내려받아 호스팅·압축·미세조정할 수 있게 열어 준 것이지, 학습 데이터와 전체 학습 코드까지 공개해 처음부터 재현할 수 있게 한 것은 아니기 때문이다.

Kimi K3가 먼저 주목을 끌었다. 이전 Kimi 모델이 18위였던 프런트엔드 코드 아레나에서 1,679점으로 곧장 1위에 올랐고, 소비자 제품·데이터 분석·시뮬레이션 등 일곱 개 부문 중 여섯 개에서 1위를 했다. 게임 부문만 페이블 5에 이어 2위였다. 다만 이 아레나는 사람이 어느 쪽 결과물이 마음에 드는지 눈을 가리고 고르는 방식이라, '사람들이 K3의 프런트엔드 결과물을 더 선호했다'는 구체적 사실일 뿐 모든 작업에서 최고의 코딩 모델이라는 뜻은 아니다. 더 넓은 평가인 아티피셜 애널리시스 지능 지수에서는 K3가 57점, 페이블 5가 60점, GPT-5.6의 강한 설정이 58~59점이었다.

규모는 2.8조 파라미터다. 전문가 혼합 방식으로 896개의 전문가 모듈을 두고 토큰마다 라우터가 그중 16개만 고른다. 계산량은 줄지만 저장 요구량은 줄지 않는다. 다음 토큰에서 다른 전문가가 선택될 수 있어 896개가 모두 대기해야 하기 때문이다. 4비트로 압축해도 가중치만 약 1.4테라바이트가 필요하고, 문샷AI는 효율적 배포를 위해 가속기 64대 이상을 권장한다. 가격도 저렴하지 않다. 입력 100만 토큰당 3달러, 출력 15달러이며 캐시된 입력은 30센트다. 게다가 아티피셜 애널리시스 평가에서 K3는 출력 토큰 1억 3천만 개를 썼는데, 비교군의 중앙값은 6,300만 개였다. 표시 단가만 보고 총비용을 판단하면 어긋난다.

잉클링은 정반대 방향이다. 총 9,750억 파라미터에 토큰당 활성 파라미터는 410억이고, 텍스트·이미지·오디오를 받으며 최대 100만 토큰 맥락을 지원한다. 지능 지수는 41점으로 K3보다 낮은데, 회사가 먼저 '오늘 나와 있는 가장 강한 모델은 아니다'라고 밝혔다. 이 선택은 파인튜닝 플랫폼 팅커와 묶어서 보면 이해된다. 팅커는 저랭크 적응 기법으로 기반 모델은 거의 그대로 두고 작은 어댑터만 학습시키는데, 잉클링뿐 아니라 Kimi·딥시크·엔비디아·오픈AI·큐원 등 다른 회사 모델도 다룬다. 잉클링이 모든 벤치마크에서 1등을 하지 않아도 사업은 돌아가는 구조다.

결론은 오픈 모델의 정의가 바뀌었다는 것이다. 오픈 모델은 더 이상 '작고 싼 대안'이 아니다. 한쪽은 데이터센터급 인프라를 요구할 만큼 거대해지면서 폐쇄형 최상위 모델과 정면으로 겨루고, 다른 한쪽은 낮은 출발 점수를 인정하고 조직별 맞춤화에서 가치를 만든다. 공통된 이득은 선택지다. 어디서 돌릴지, 누가 운영할지, 어떻게 적응시킬지를 더 많은 조직이 정할 수 있게 된다. 한계는 인프라다. 가중치에 접근한다고 해서 그것을 운영할 하드웨어·소프트웨어·데이터·평가·인력까지 따라오지는 않는다.

주요 인사이트

  • 아레나 1위라는 표현은 생각보다 좁은 사실이다. 눈을 가린 사람들이 프런트엔드 결과물을 더 선호했다는 뜻이지, 모든 코딩 작업에서 최고라는 근거가 되지는 않는다.
  • 토큰 단가만 비교하면 비용을 오판한다. 같은 평가에서 K3는 비교군 중앙값의 두 배가 넘는 출력 토큰을 소모했고, 긴 추론은 표시 가격이 싸 보여도 실제 비용을 밀어 올린다.
  • 잉클링 공개 하루 만에 커뮤니티가 270~285기가바이트짜리 양자화본을 내놨고, 약 290기가바이트 시스템 메모리를 갖춘 장비에서 돌아갔다. 정확도 유지율은 74% 수준으로 품질 손실이 작지 않지만, 최적화 부담을 개발사 밖으로 분산한다는 오픈웨이트의 이점은 분명히 보여 준다.
  • 미세조정은 만능이 아니다. 과제를 정의하지 못하거나 결과를 측정할 수 없는 조직에서는 맞춤화로도 문제가 풀리지 않는다. 반대로 과제가 분명하고 좋은 데이터가 있으면 그 일에서는 더 강한 범용 모델을 이길 수 있다.
  • K3가 열어 준 것은 폐쇄형 API에 붙는 프리미엄을 비교할 근거다. 그 돈이 성능인지, 안정성인지, 지원과 운영 편의인지 따져볼 수 있게 됐을 뿐 폐쇄형이 무의미해진 것은 아니다.

자주 묻는 질문

Kimi K3를 개인 컴퓨터에서 돌릴 수 있나요?

사실상 어렵습니다. 4비트로 압축해도 가중치만 약 1.4테라바이트의 메모리를 요구하고, 문샷AI는 효율적인 배포에 가속기 64대 이상을 권장합니다. 고성능 소비자용 GPU의 메모리는 수십 기가바이트 수준이라 대부분의 사용자는 여전히 웹사이트나 API, 클라우드 사업자를 통해 쓰게 됩니다.

씽킹머신스는 왜 잉클링이 최고 모델이 아니라고 먼저 밝혔나요?

회사의 사업 축이 모델 자체가 아니라 파인튜닝 플랫폼 팅커이기 때문입니다. 팅커는 잉클링뿐 아니라 Kimi, 딥시크, 큐원 등 경쟁사 모델도 맞춤화해 줍니다. 특정 업무에 더 맞는 기반 모델이 무엇이든 플랫폼은 이득을 보므로, 잉클링이 벤치마크 선두일 필요가 없습니다.

오픈웨이트와 오픈소스는 같은 말인가요?

다릅니다. 오픈웨이트는 학습이 끝난 가중치를 공개해 직접 호스팅하고 압축하고 미세조정할 수 있게 하는 것입니다. 학습 데이터나 전체 학습 코드처럼 모델을 처음부터 재현하는 데 필요한 것들이 반드시 포함되지는 않습니다.

두 모델은 서로 무관한가요?

아닙니다. 잉클링의 전문가 혼합 구조는 딥시크 V3를 상당 부분 따랐고, 초기 지도 미세조정의 일부에 Kimi K2.5를 포함한 오픈웨이트 모델의 합성 데이터가 쓰였습니다. 문샷AI도 개발 후반의 GPU 커널 최적화 작업 대부분을 K3의 초기 버전이 처리했다고 밝혔습니다.

원문과 출처

이 글은 원본 영상의 자막을 바탕으로 한국어 독자를 위해 요약했습니다. 전체 맥락과 최신 정보는 원문에서 확인하세요.

YouTube 원본 영상 보기 ↗

관련 AI 소식