미니맥스 M3 오픈 웨이트 공개와 추론 최적화 — 커널·KV 캐시·에이전트 워크로드의 현실

핵심 메시지

• 미니맥스는 M3의 가중치를 공개하는 이유로, 외부 개발자들의 피드백과 기여가 모델을 더 강하게 만들고 추론 최적화를 다른 조직이 대신 밀어줄 수 있다는 점을 들었다.
• M3는 이전 M2 계열과 달리 처음부터 텍스트와 이미지를 함께 학습했다. 학습 도중 모델이 무너지는 문제를 해결하고 나니 텍스트 토큰이 시각 토큰에 자연스럽게 주의를 기울이는 구조가 만들어졌다는 설명이다.
• 추론 제공 측은 공개 전에 아키텍처 정보를 미리 받아 커널을 새로 쓰거나 기존 커널을 고친다. 출시 당일은 품질을 맞추는 데 집중하고, 그 뒤 몇 주에 걸쳐 KV 캐시와 어텐션 커널, 양자화를 차례로 손보며 속도를 올린다.
• 채팅에서 에이전트로 워크로드가 옮겨가면서 최적화 지점 자체가 바뀌었다. 수천 토큰짜리 시스템 프롬프트와 대화 기록을 다루던 시절과 달리, 코드베이스 전체를 올리고 수백 번 도구를 호출하는 작업은 캐시·라우팅·커널 모두에서 다른 문제를 만든다.
• 긴 문맥이 쌓이는 KV 캐시 관리는 사실상 분산 파일 시스템이나 대형 데이터베이스를 다시 만드는 일에 가깝다. 어디에 저장하고, 본 적 있는 것인지 판별하고, 어떻게 가져오고 옮길지가 핵심이다.

쉽게 이해하기

AI 엔지니어 컨퍼런스에서 미니맥스의 강화학습 연구를 이끄는 올리브 송과 투게더 AI에서 커널·GPU 최적화를 총괄하는 댄이 한 무대에 올랐다. 모델을 만들어 내보내는 쪽과 그 모델을 받아 실제로 서비스하는 쪽이 나란히 앉은 구성이어서, 오픈 웨이트 모델 하나가 공개된 뒤 무슨 일이 벌어지는지가 양쪽 시점에서 드러났다.

미니맥스가 밝힌 M3의 가장 큰 변화는 멀티모달이다. 이전 계열이 텍스트와 코드를 다뤘다면 M3는 영상과 이미지도 이해하며, 무엇보다 사후에 시각 능력을 덧붙인 것이 아니라 0단계부터 두 종류의 데이터를 함께 학습했다. 이 방식은 학습이 중간에 붕괴하기 쉬워 여러 연구소가 겪는 난관인데, 이를 해결하고 나니 어텐션 맵에서 텍스트 토큰이 시각 토큰을 참조하는 양상이 관찰됐다는 것이 송의 설명이다. 웹사이트를 만들 때 모델이 결과물의 모습을 직접 보고 강화학습 단계에서 개선할 수 있다는 점이 실질적인 이득으로 꼽혔다.

커널을 잘 쓰는 모델을 만드는 문제는 벤치마크 이야기로 이어졌다. 투게더 AI 측은 모델 추론을 가속할 방법이 떠올라도 정작 쓸 만한 커널이 존재하지 않는 경우가 많다는 조사 결과를 바탕으로, 미해결 문제들을 모은 병렬 커널 벤치마크를 공개했다고 밝혔다. 흥미로운 대목은 벤치마크 과최적화를 오히려 환영한다는 태도다. 누군가 이 벤치마크에 맞춰 커널을 극단적으로 다듬는다면 그 결과물을 그대로 가져와 실제 추론 가속에 쓰면 된다는 것이다.

학습 쪽에서도 비슷한 실용주의가 드러났다. 미니맥스는 모델이 12시간짜리 실행을 거쳐 학회 논문을 재현하는 과제까지 다루는데, 이런 장기 과제는 GPU 같은 하드웨어 제약이 걸려 있어 훈련이 까다롭다. 송은 관건이 여전히 환경과 데이터라고 정리했다. 문제와 보상을 어떻게 정의하고 환경을 어떻게 구성하는지, 그리고 강화학습 알고리즘을 어떻게 손봐야 효율적으로 학습되는지가 성패를 가른다는 것이다. 중간 제출마다 평가하고, 모델이 성능을 실제로 올린 것인지 아니면 평가를 속인 것인지를 검증과 테스트로 가려낸다는 점도 언급됐다.

3년 뒤 지금을 돌아보면 무엇이 어처구니없어 보일 것 같으냐는 질문에, 투게더 AI 측은 GPU를 너무 낮게 활용하고 있는 현실을 꼽았다. 그리고 몇 달마다 반복되는 '폐쇄형 프런티어 모델이 훨씬 앞서 있다'는 논쟁이 그때쯤이면 정리되기를 바란다고 덧붙였다. 미니맥스 쪽은 3년 전만 해도 자신이 아직 이 산업에 들어오지도 않았다며, 모델이 개발 속도를 끌어올리는 순환이 이미 작동하고 있고 그 덕에 오픈 웨이트 모델이 프런티어를 따라잡고 있다고 답했다.

주요 인사이트

• '벤치마크에 과적합해도 좋다'는 말은 냉소가 아니라 설계 의도였다. 최적화의 산출물이 곧바로 재사용 가능한 커널이라면, 벤치마크는 평가 도구인 동시에 부품 공장이 된다.
• 오픈 웨이트 모델들이 서로 다른 어텐션과 MoE 구성, 양자화 방식을 택하면서 추론 제공자는 매번 새 문제를 받는다. 다만 희소 어텐션처럼 계열이 다른 구현이라도 최적화 과정에서 얻은 교훈은 옮겨 붙일 수 있다는 점이 실무의 완충 장치다.
• 모델 품질 개선의 단위가 '한 달'이 아니라 '어젯밤'으로 이야기되는 장면이 나온다. 출시 직후 성능이 계속 좋아진다는 것은, 사용자가 체감하는 속도가 모델 자체가 아니라 서빙 스택의 함수라는 뜻이기도 하다.
• KV 캐시 관리를 '학부 3학년 수업에서 배웠어야 할 것을 업계에서 다시 발견하는 중'이라고 표현한 대목은, 최신 AI 인프라의 상당 부분이 고전적인 시스템 공학 문제로 회귀하고 있음을 보여준다.
• 미니맥스가 내부 개발 속도를 끌어올리는 데 자사 모델을 쓰고, 그 과정에서 자신들의 실제 업무와 밀착한 내부 평가를 만들어낸다는 설명은 평가셋 확보의 한 가지 현실적인 경로를 보여준다.

자주 묻는 질문

관련 AI 소식