LLM SLM FM 차이와 선택법: 문서 분류·고객 지원·자율 장애 대응 사례로 이해하기

핵심 메시지

• LLM, SLM, FM는 별개의 기술이 아니라 파라미터 규모와 쓰임새로 구분하는 같은 계열의 언어 모델이다.
• SLM(100억 파라미터 미만)은 문서 분류처럼 명확한 작업을 빠르고 저렴하게, 온프레미스로 처리하는 데 강하다.
• LLM(수백억 파라미터)은 폭넓은 사전학습과 일반화 능력으로 다양성 높은 복잡한 고객 지원에 맞는다.
• 프런티어 모델(수천억 파라미터)은 최고 수준의 추론과 에이전트 능력으로 다단계 자율 장애 대응에 쓰인다.
• 핵심은 '가장 강력한 모델'이 아니라 '작업에 맞는 모델'을 고르는 것이다.

쉽게 이해하기

IBM 테크놀로지 영상은 AI를 이야기할 때 자주 등장하는 세 약어를 정리한다. LLM(대형 언어 모델)은 우산 격 용어이고, SLM(소형 언어 모델)은 효율적인 전문가, FM(프런티어 모델)은 가장 앞선 성능의 모델을 가리킨다. 셋 다 언어 모델이지만 사용 방식이 달라 이름을 달리 붙인다.

LLM은 수백억 개 파라미터를 가진, 사람들이 흔히 'AI' 하면 떠올리는 모델이다. 파라미터는 학습 과정에서 얻어지는 가중치로, 많을수록 대체로 더 넓은 지식과 미묘한 추론이 가능하다. LLM은 여러 분야를 아우르는 제너럴리스트이며, 큰 GPU 메모리가 필요해 주로 클라우드나 SaaS 환경에서 구동된다.

SLM은 100억 개 미만의 파라미터를 가진 모델로, LLM의 열등한 버전이 아니라 특정 작업에 특화된 전문가로 보는 편이 맞다. 잘 튜닝된 SLM은 문서 분류, 코드 라우팅, 요약 같은 좁은 작업에서 더 크고 무거운 모델과 맞먹거나 더 빠르고 저렴하게 처리한다. IBM의 그래니트 4.0이나 일부 미스트랄 모델이 예로 언급된다.

프런티어 모델은 수천억 개 이상의 파라미터와 깊은 도구 연동을 갖춘, 오늘날 가장 뛰어난 추론 능력을 지닌 모델이다. 클로드 소네트·오퍼스, GPT-5, 제미나이 프로 등이 여기에 속한다. 다만 도구 사용 자체는 작은 모델도 하므로, 프런티어를 규정하는 것은 크기가 아니라 최고 수준의 복잡한 추론 능력이다.

영상은 세 가지 사례로 모델 선택 전략을 보여준다. 민감 데이터가 담긴 문서를 사내에서 빠르게 분류·라우팅하는 작업은 SLM, 청구·설정·과거 이력을 종합해야 하는 복잡한 고객 지원은 LLM, 새벽 2시 장애 알림을 로그 조사부터 원인 파악·조치 실행까지 다단계로 처리하는 자율 대응은 프런티어 모델이 적합하다고 설명한다.

주요 인사이트

• SLM의 장점은 속도·비용만이 아니다. 온프레미스로 돌리면 데이터가 환경 밖으로 나가지 않아 금융·의료처럼 규제가 강한 산업의 거버넌스 요건을 충족하기 쉽다.
• LLM이 복잡한 고객 지원에 강한 이유는 폭넓은 사전학습으로 처음 보는 표현이나 엣지 케이스에도 일반화해 대응할 수 있기 때문이다.
• 프런티어 모델의 핵심은 다단계 워크플로를 계획·실행하고, 긴 추론 사슬 동안 무엇을 알아냈고 다음에 무엇을 조사할지 일관되게 유지하는 에이전트 능력이다.
• 현실에서는 아직 완전 자율 에이전트보다, 가드레일과 사람의 최종 승인을 둔 'AI 코파일럿' 형태로 프런티어 모델을 운영하는 팀이 많다.
• 모든 일에 프런티어 모델을 쓰는 것은 과잉일 수 있다. 작업의 성격에 능력을 맞추는 것이 비용과 성능을 동시에 잡는 전략이다.

자주 묻는 질문

관련 AI 소식