LLM 모델 압축 총정리: 양자화·가지치기·지식 증류·저랭크 분해 서베이 논문 스터디 발표 요약

핵심 메시지

• 모델 압축은 양자화, 가지치기, 지식 증류, 저랭크 분해의 네 범주로 나뉜다. 유료 API 모델과 비슷한 성능을 자체 장비에서 돌리려는 수요가 이 분야를 키웠다.
• 양자화는 재학습이 필요한 양자화 인식 훈련과, 재학습 없이 가중치만 바꾸는 사후 양자화로 갈린다. 사후 양자화는 다시 가중치 전용, 가중치와 활성화, KV 캐시 대상으로 나뉜다.
• 가지치기 비교표에서 비구조적 방식이 가장 좋았다. 발표자는 압축률 50%에서 오히려 퍼플렉시티가 개선된 사례를 소개하며 놀라움을 표했다.
• 구조적 가지치기는 하드웨어 효율을 얻는 대신 성능 저하가 크다. 서로 얽힌 연결을 함께 잘라내다 보면 중요한 부분까지 사라지기 때문이다.
• 모델 용량이 줄어도 레이어 수가 그대로면 추론 시간은 크게 줄지 않는다는 참가자 지적이 나왔다. 압축의 목적은 속도가 아니라 제한된 자원에서의 구동이라는 정리로 이어졌다.

쉽게 이해하기

한 온라인 스터디 모임에서 대규모 언어 모델 압축을 다룬 서베이 논문을 함께 읽고 발표한 기록이다. 발표자는 서두에서 이 논문이 범주 구분은 잘해 놓았지만 각 항목 설명이 한두 줄에 그쳐 친절한 편은 아니라고 솔직하게 평가한다. 그래서 개별 기법을 깊이 파기보다 앞으로 무엇을 공부해야 할지 큰 그림을 잡는 시간으로 삼겠다고 밝힌다.

압축이 필요한 이유는 자원이다. API로 제공되는 모델들은 막대한 GPU 메모리와 전력을 쓰는데, 비슷한 것을 자체 환경에서 돌리려면 비용이 감당되지 않는다. 그보다 작은 모델을 용도에 맞게 학습시켜 쓰고 싶어도 여전히 큰 비디오 메모리를 요구한다. 이 간극을 메우려는 시도가 모델 압축이라는 설명이다.

본론에 앞서 평가 지표를 짚는다. 파라미터 총수, 원본 대비 크기 비율, 부동소수점 연산량, 특정 과제 처리 시간과 처리량이 기본이고, 언어 모델에서는 퍼플렉시티가 널리 쓰인다. 퍼플렉시티는 모델이 확신을 갖고 예측할수록 낮아지므로 값이 작을수록 좋다. 압축 논문들은 여기에 압축 후 값에서 원본 값을 뺀 차이를 쓰는데, 압축하면 성능이 떨어지므로 이 값은 양수가 나오는 것이 정상이다.

네 범주 중 양자화는 실수로 표현된 가중치를 정수 범위로 옮겨 담는 방식이다. 발표자는 가중치 전용 양자화를 두꺼운 책을 작은 글씨로 축소해 부피를 줄이는 일에, 활성화까지 양자화하는 것을 그 책을 읽을 돋보기의 품질까지 낮추는 일에, KV 캐시 양자화를 긴 글을 빠르게 참고하기 위한 요약본 만들기에 비유했다. 가중치를 1비트까지 낮추고 보정용 스케일값을 곱하는 연구들이 성능을 크게 잃지 않더라는 참가자 경험도 오갔다.

가지치기 대목에서는 비교표가 흥미롭게 읽힌다. 비구조적 방식은 성능 손실이 가장 적었고 일부 결과는 압축 후 퍼플렉시티가 오히려 낮아졌다. 다만 구조를 무시하고 잘라내므로 하드웨어 효율이 떨어진다. 구조적 가지치기는 전체 구조를 유지한 채 잘라 하드웨어에 유리하지만 성능 저하가 컸고, 그 중간이 반구조적 방식이다. 후반부는 교사 모델의 출력만 쓰는 블랙박스 증류와 내부 표현까지 쓰는 화이트박스 증류, 그리고 행렬을 낮은 랭크로 분해하는 방식으로 이어진다.

마지막으로 발표자는 흐름의 변화를 짚는다. 데이터와 모델을 키울수록 성능이 오른다는 스케일링 법칙을 따라 대규모 투자가 이뤄졌지만, 비용과 전력 문제로 한계에 부딪혔다는 것이다. 그래서 구조를 키우는 대신 출력을 내놓기 전에 스스로 검토하게 하는 등 추론 과정을 최적화하는 시도가 늘고 있으며, 발표 시점에 공개된 구글의 사고 과정 기반 실험 모델을 그 예로 들었다.

주요 인사이트

• 네 범주를 나란히 놓고 보면 압축이 단일 기술이 아니라 서로 다른 자원을 겨냥한 기법들의 묶음임이 드러난다. 양자화는 표현 정밀도를, 가지치기는 파라미터 수를, 지식 증류는 모델 자체를, 저랭크 분해는 행렬 구조를 건드린다.
• 성능이 좋은 방식과 실무에서 쓰기 좋은 방식이 어긋난다는 점이 이 발표의 가장 실용적인 대목이다. 비구조적 가지치기는 지표가 가장 좋지만 하드웨어 의존성이 생기고, 구조적 가지치기는 그 반대다.
• '모델이 작아지면 빨라진다'는 직관을 참가자들이 정면으로 반박한 토론이 인상적이다. GPU는 한 레이어의 노드를 한 번에 처리하므로, 레이어 수가 그대로면 순차 실행 구조는 바뀌지 않는다는 것이다.
• 실제 속도 이득은 하드웨어에 맞춘 최적화에서 나온다는 경험담도 나왔다. 임베디드 보드에서 추론 전용 변환 도구를 거치자 체감 속도가 크게 달라졌다는 사례가 공유됐다.
• 블랙박스 지식 증류가 사실상 프롬프트 엔지니어링에 가깝다는 정리도 짚어둘 만하다. 내부를 볼 수 없으니 교사 모델이 만든 풀이 과정을 그대로 학습 데이터로 삼는 방식이기 때문이다.

자주 묻는 질문

관련 AI 소식