메타 뮤즈 글리머 30B 공개: 아파치 2.0 오픈웨이트와 24GB GPU 로컬 실행 전략

핵심 메시지

• 메타가 라마 이후 처음으로 다시 오픈 가중치 모델을 내놓았고, 이번 뮤즈 글리머에는 상업적 활용이 자유로운 아파치 2.0 라이선스가 붙었다.
• 30B 규모의 밀집(dense) 모델이라 전문가 혼합 방식보다 속도 이점은 없지만, 같은 체급의 중국 오픈 모델을 정면으로 겨냥한 성능표를 들고 나왔다.
• 사전학습에 일반 웹 데이터 대신 상위 모델인 뮤즈 스파크의 출력을 증류해 썼다는 점이 기존 공개 모델들과 다른 대목이다.
• 메타가 직접 만든 4비트 양자화판이 24GB·32GB 그래픽카드에 KV 캐시 여유까지 남기고 들어가도록 설계돼, 개인 장비에서의 실행을 처음부터 전제로 삼았다.
• 저커버그는 더 큰 뮤즈 스파크의 가중치도 앞으로 공개하겠다고 밝혀, 이번 공개가 일회성이 아니라는 신호를 남겼다.

쉽게 이해하기

영상은 이번 주가 오픈 모델 공개가 몰린 주간이라는 배경 설명으로 시작한다. 그 첫 타자가 많은 사람이 예상하지 못했던 메타였다는 것이 핵심이다. 발표자는 올해 4월 초에 다뤘던 초기 뮤즈 모델이 당시 혹평을 받았지만, 지난해 말에야 꾸려진 팀이 만든 첫 결과물치고는 준수했다고 평가한다. 이후 그 팀이 다른 연구소의 연구자들을 영입하며 몸집을 키웠고, 이번 공개가 그 결과라는 설명이다.

뮤즈 글리머는 300억 파라미터 규모의 밀집 모델이다. 전문가 혼합 구조가 아니어서 추론 속도에서 유리하지 않다는 점을 발표자는 먼저 짚는다. 벤치마크 비교 대상이 같은 체급의 큐원 3.6 27B라는 사실에서 이 모델의 위치가 드러난다. 젬마 4는 대부분의 항목에서 어렵지 않게 앞서지만 큐원 3.6을 전 항목에서 이기지는 못한다. 발표자는 곧 나올 큐원 3.8 27B와 비교당하기 전에 서둘러 내놓은 것 아니냐는 해석도 덧붙인다.

학습 방식에 대한 정보가 함께 공개된 점이 눈에 띈다. 사전학습 단계에서 이미 정제된 웹 데이터가 아니라 상위 모델 뮤즈 스파크의 출력을 증류해 썼다는 것이 특징이다. 사후학습에서는 온-폴리시 증류와 강화학습을 결합했는데, 발표자는 이것이 최근 다른 소형 모델들에서도 보이는 익숙한 조합이라고 말한다. 다만 이 정도로 작은 모델, 그것도 개인이 직접 돌릴 수 있는 크기에 적용됐다는 점이 차이라는 것이다.

설계 목표가 에이전트라는 사실은 메타가 블로그에서 직접 밝혔고 벤치마크 구성에서도 드러난다. 다단계 추론, 도구 사용, 긴 작업 궤적을 이어가는 능력, 그리고 코딩용을 포함한 여러 하네스와 맞물려 동작하는 능력이 강조된다. 로컬 실행을 위한 배려도 분명하다. 메타가 직접 만든 4비트 양자화판은 24GB나 32GB 메모리를 가진 그래픽카드에 모델이 들어가고도 넉넉한 KV 캐시 공간이 남도록 크기를 맞췄고, 추측 디코딩도 켜둔 상태로 제공된다. 시연 영상은 64GB 메모리의 맥북 프로에서 돌아간다.

발표자가 가장 중요하게 보는 것은 이 모델 하나의 성능이 아니라 메타가 오픈 가중치 경쟁에 복귀했다는 신호다. 저커버그가 더 큰 뮤즈 스파크 1.2의 가중치도 공개하겠다고 밝혔고, 코딩 특화판인 뮤즈 코드도 이미 나와 있다. 발표자는 한 지표에서 뮤즈 스파크가 최상위 상용 모델과 비슷한 수준으로 평가되고 있다고 전하며, 그런 모델을 로컬에서 돌릴 수 있게 된다면 많은 사람에게 큰 이득이라고 말한다.

주요 인사이트

• 오픈 가중치 공개의 기준이 달라졌다. 예전에는 가중치만 던져두면 커뮤니티가 알아서 양자화했지만, 이제는 공개 주체가 직접 양자화판을 만들고 특정 그래픽카드 메모리에 맞춰 크기를 조절해 내놓는 것이 기본값이 됐다.
• 사전학습 데이터로 웹 문서 대신 상위 모델의 출력을 쓰는 방식은 데이터 확보 경쟁의 성격을 바꾼다. 이미 강한 모델을 가진 쪽이 작은 모델을 훨씬 싸게 찍어낼 수 있다는 뜻이기 때문이다.
• 라이선스가 성능만큼 중요하다. 아파치 2.0이 붙었다는 사실은 기업이 법무 검토 부담 없이 제품에 넣을 수 있다는 의미이고, 이는 벤치마크 몇 점 차이보다 실제 채택에 더 크게 작용한다.
• 밀집 모델이라는 선택은 속도를 포기하고 단순함과 이식성을 택한 결과다. 한 대의 소비자용 그래픽카드나 노트북에서 통째로 돌리는 것이 목표라면 전문가 혼합 구조보다 다루기 쉬운 면이 있다.
• 공개 주기가 극도로 짧아졌다. 같은 주에 경쟁 모델의 다음 버전이 나오는 상황이라 개별 모델의 우위는 며칠이면 뒤집힌다. 그래서 발표자도 순위표보다 ‘메타가 돌아왔다’는 구조적 변화에 무게를 둔다.

자주 묻는 질문

관련 AI 소식