SLM과 LLM 선택 기준 정리, 소형 언어 모델이 비용 대비 유리한 경우는 언제일까

핵심 메시지

• 새 언어 모델이 공개될 때는 크기가 다른 여러 버전이 함께 나오는 경우가 많고, 서비스를 만들 때 가장 큰 모델이 언제나 최선은 아니다.
• LLM은 수십억에서 수백억 파라미터 규모로 복잡한 작업에 강하지만, SLM은 파라미터가 작은 대신 좁게 정의된 업무를 값싸게 처리한다.
• 영상은 박사 학위자와 학사 출신 지원자의 채용에 빗대어, 업무가 복잡하지 않다면 값이 싼 쪽을 교육해 쓰는 편이 비용 대비 이득이라고 설명한다.
• 학습 데이터 구성과 전략을 특정 분야에 맞추자 7B 규모의 작은 모델이 훨씬 큰 모델에 가까운 성능을 낸 연구 결과가 소개된다.
• 마이크로소프트 기술 블로그의 분류처럼 빠른 응답과 낮은 계산 비용이 필요한 작업은 SLM, 고급 콘텐츠 생성이나 정교한 분석은 LLM이 적합하다.

쉽게 이해하기

오픈AI나 제미나이처럼 널리 쓰이는 모델은 새 버전이 나올 때 하나의 모델만 공개되지 않는다. 같은 세대 안에서도 크기가 다른 여러 모델이 함께 나오고, 개발자는 그중 하나를 골라 서비스를 만든다. 영상은 이 선택에서 습관적으로 가장 큰 모델을 집는 태도를 문제 삼는다. 상황에 따라 작은 모델, 즉 SLM(Small Language Model)이 더 나은 선택이 되는 경우가 꽤 많다는 것이다.

두 모델의 구분은 파라미터 규모에서 출발한다. 흔히 이름을 아는 빅테크의 대표 모델들은 수십억에서 수백억 파라미터급으로, 파라미터가 큰 만큼 복잡한 작업을 잘 해낸다. 반면 SLM은 파라미터가 상대적으로 작아 수행 범위가 제한되고, 좁게 정의된 특정 업무를 처리하는 용도로 쓰인다. 문제는 '좁은 업무라면 그냥 성능 좋은 큰 모델을 쓰는 게 안전하지 않을까'라는 반문인데, 영상은 여기에 비용이라는 축을 들이민다.

설명에 쓰인 비유는 채용이다. 개발자를 뽑는데 박사 학위를 받은 지원자와 4년제 대학을 나온 지원자가 지원했다면 당연히 전자가 매력적으로 보인다. 그러나 후자의 인건비가 절반이고 맡길 업무가 아주 복잡하지 않다면, 옆에서 교육을 시켜 어느 정도의 성과를 내게 하는 편이 비용 면에서 더 이득일 수 있다. 여기서 박사가 LLM, 학사 출신이 SLM에 해당한다. 실제로 파인튜닝이 가능한 GPT-4 계열을 기준으로 봐도 큰 모델과 작은 모델의 가격 차이는 무시하기 어렵다.

성능에 대한 의심에는 연구 결과가 제시된다. 특정 분야에서 쓸 것을 목표로 학습 데이터 구성과 학습 전략을 바꿔봤더니, 7B 규모의 작은 모델이 훨씬 큰 모델과 거의 비슷한 성능을 보였다는 것이다. 결국 업무 범위를 명확히 좁히고 학습 전략을 잘 짜면 SLM이 성능 대비 비용에서 LLM보다 유리한 선택이 될 수 있다는 결론이다.

그렇다면 어느 쪽을 언제 쓸까. 영상은 마이크로소프트 기술 블로그의 분류를 참고해, 특정 도메인의 고객 서비스 챗봇이나 간단한 데이터 추출처럼 빠른 응답과 낮은 계산 비용이 요구되는 작업에는 SLM이, 고급 콘텐츠 생성이나 정교한 데이터 분석 같은 복잡한 작업에는 LLM이 맞는다고 정리한다. 다만 결과는 직접 학습시켜 봐야 안다는 점도 덧붙인다. 유료 모델을 먼저 학습시켰다가 실패하면 비용만 날리므로, 라마 계열처럼 참고 자료가 많은 오픈소스 소형 모델로 먼저 시험해 보고 기대에 못 미칠 때 큰 모델로 옮겨가라는 조언이다.

주요 인사이트

• 모델 선택은 성능 순위표가 아니라 '내가 맡길 업무의 복잡도'에서 시작해야 한다. 업무 범위를 좁게 정의할수록 작은 모델의 승산이 커진다.
• 비용은 단순한 부수 조건이 아니라 선택 기준 그 자체다. 같은 결과를 낸다면 절반 값에 돌아가는 모델이 서비스의 지속 가능성을 좌우한다.
• SLM의 약점은 학습 데이터와 전략으로 상당 부분 메울 수 있다. 범용 성능이 아니라 목표 도메인에서의 성능이 기준이 되어야 한다.
• 검증 순서를 바꾸면 실패 비용이 줄어든다. 오픈소스 소형 모델로 먼저 가능성을 확인한 뒤 유료 대형 모델로 넘어가는 편이 안전하다.

자주 묻는 질문

관련 AI 소식