GLM 5.2 오픈소스 AI 모델이 클로드보다 싼데 기업 전환이 어려운 이유

핵심 메시지

• GLM 5.2는 '분포의 중심'에 있는 일상적 업무(브로슈어 사이트, 발표자료 초안, 익숙한 코딩)에서 클로드보다 뛰어나면서 최대 98%가량 저렴하다.
• 그럼에도 기업들이 쉽게 갈아타지 못하는 이유는 모델 자체가 아니라 모델을 둘러싼 '하니스(harness)', 즉 프롬프트·메모리·툴 호출 시스템을 새로 짜야 하기 때문이다.
• 직원들이 클로드·오픈AI 같은 프런티어 모델을 직접 요구하는 사내 압력과, 자사 업무가 '분포의 중심'인지 '가장자리'인지 측정해 본 적이 없다는 점이 전환을 막는다.
• 클로드 태그(Slack에서 Claude를 태그해 일을 시키는 기능) 같은 '팀 단위 하니스'는 회사의 맥락을 빨아들여 떼어내기 어려운 끈끈한 락인을 만든다.
• 오픈소스 모델로 에이전트 파이프라인을 다시 설계할 수 있는 인재가 극도로 희소하기 때문에, 이 '마지막 1마일'을 구축할 줄 아는 사람에게 큰 기회가 열려 있다.

쉽게 이해하기

발표자는 GLM 5.2를 직접 써 보고 깊은 인상을 받았다고 말한다. 클라우드에서 돌리면 매우 싸고 자체 서버를 갖추면 사실상 공짜인 데다, 브로슈어 사이트 제작·발표자료 초안·일상적 종합 작업·익숙한 유형의 코딩처럼 '평범한 업무'에서는 오히려 클로드보다 품질이 높다는 것이다. 그는 이런 영역을 'AI 작업 분포의 중심'이라 부르며, 사람이 결과를 빠르게 검증할 수 있고 비슷한 패턴이 수백만 번 반복된 업무라고 설명한다.

그런데도 그는 GLM 5.2를 매일 쓰는 주력 모델로 삼지 않는다. 많은 기업이 '가장 싼 모델로 자동 라우팅'하는 체계로 옮기고 싶어 하지만 실제로는 쉽지 않다고 한다. 미국 정부가 프런티어 모델 출시 속도를 늦추면서(예: 5.6은 고객별 순차 공개) 정해진 출시 주기가 사라졌고, 그만큼 오픈소스 논의가 더 커지고 있다. 한 엔지니어가 일주일에 토큰값으로 8만 달러를 쓴 사례처럼 비용 압박이 전환 동기를 키운다.

전환이 어려운 이유로 그는 세 가지를 든다. 첫째, 직원들이 자기 폰에서 쓰던 프런티어 모델을 회사에서도 쓰고 싶어 하는 '업무 편의성' 압력. 둘째, 자사 업무가 분포의 중심인지 가장자리인지 제대로 측정해 본 조직이 거의 없다는 점. 가장자리 업무가 많다면 프런티어 모델이 필요하지만, 대부분은 그 질문 자체를 던진 적이 없다.

셋째이자 핵심은 '하니스'다. 모델은 병 속의 뛰어난 두뇌일 뿐, 하니스 없이는 쓸모가 없다는 것이다. Lindy를 이끄는 Flo Crivello가 딥시크 기반으로 옮기며 비용을 크게 아꼈지만, 클로드용 프롬프트·메모리·툴 호출 체계를 그대로 옮길 수 없어 하니스를 처음부터 새로 짜야 했다는 사례를 든다. 모델마다 자기만의 하니스가 필요하다는 것이다. AI를 서비스로 파는 사람은 마진 때문에 이 고생을 감수하지만, 내부용으로 코딩·백오피스 자동화에 쓰는 회사는 ROI가 불분명해 동기가 약하다.

그는 GLM 5.2가 자체 Codex 클론 하니스와 함께 출시된 점, Codex가 오픈AI 모델 없이도 하니스로 쓸 수 있다고 강조하는 점, 앤트로픽이 클로드 태그라는 팀 단위 하니스를 내놓은 점을 같은 흐름으로 읽는다. 결국 승부는 지능 자체가 아니라 'AI의 마지막 1마일'이며, 그 일을 할 인재가 너무 희소하다는 것이 기업·에이전시·컨설팅에 거대한 기회이자 위험이라고 결론짓는다.

주요 인사이트

• 모델 교체는 'API 호출 한 줄' 교체가 아니라 프롬프트·메모리·툴 호출을 포함한 '작업 시스템 전체'를 바꾸는 일이다.
• 오픈소스 모델 제작자들이 모델과 함께 하니스(예: Codex 유사 인터페이스)를 내놓기 시작한 것은, 모델만으로는 채택을 끌어낼 수 없음을 인정한 신호다.
• 클로드 태그처럼 Slack에 들어가 회사의 정리되지 않은 맥락을 흡수하는 도구는, 아무리 싼 모델이 나와도 떼어내기 어려운 '회사 두뇌의 임대' 상태를 만든다.
• '데이터가 곧 경쟁우위'라는 통념을 따른다면, 프런티어 모델 제공자에게 회사 맥락을 통째로 넘기는 것은 자기 맥락을 자신에게 되빌리는 셈이 된다.
• 라우팅(작업을 실시간으로 분류해 프런티어 모델과 저렴한 오픈소스 모델로 분배)과 하니스 구축 역량은 2026~2027년 기업의 핵심 투자 테마가 될 것이다.

자주 묻는 질문

관련 AI 소식