LoRA·QLoRA 파인튜닝 입문 — 데이터 50개와 만 원으로 나만의 AI 모델 만들기

핵심 메시지

• 파인튜닝은 이미 방대한 지식을 학습한 범용 모델에 내 데이터를 가르쳐 특정 분야 전문가로 바꾸는 마지막 단계다.
• LoRA와 QLoRA는 모델 전체 파라미터의 1%도 건드리지 않으면서 원래 성능의 95% 이상을 유지한다.
• 같은 규모의 모델을 튜닝하는 데 필요한 GPU 메모리가 780GB에서 48GB로 줄면서, 데이터센터의 일이 개인 컴퓨터의 일이 됐다.
• 1,000건 데이터로 소형 GPT-4 계열 모델을 튜닝하는 비용은 7.5달러 수준이며, 아이디어 검증 단계라면 데이터 50~200건으로도 충분하다.
• 데이터는 양보다 질이 중요하고, 판단 기준은 깨끗함과 적절한 난이도, 그리고 한쪽으로 치우치지 않은 다양성 세 가지다.

쉽게 이해하기

영상은 파인튜닝을 세계 최고의 셰프에게 우리 집 비밀 레시피를 가르치는 일에 비유한다. 온갖 요리를 다 할 줄 아는 만능 셰프를 우리 가게 전문 셰프로 바꾸는 것이 파인튜닝이라는 설명이다. 학습 단계로 보면 인터넷의 방대한 데이터로 기본기를 쌓는 사전학습이 초중고 과정이라면, 파인튜닝은 특정 전공 하나를 깊이 파는 대학원 과정에 해당한다.

이 일이 개인에게까지 내려온 배경에는 LoRA와 QLoRA가 있다. 전통적인 전체 파인튜닝이 집 뼈대까지 뜯어내는 대공사라면, LoRA와 QLoRA는 뼈대를 그대로 두고 벽지와 가구만 바꾸는 인테리어에 가깝다. 그 결과 거대 모델 하나를 튜닝하는 데 필요하던 GPU 메모리 780GB가 48GB로 줄었다. 전체 파라미터의 1%도 손대지 않으면서 성능은 원래의 95% 이상을 유지하고, QLoRA는 무료 구글 코랩 GPU에서도 돌아간다.

다음 질문은 비용이다. 영상은 이 문제를 편의를 돈으로 살 것인가, 아니면 투자해서 완전한 통제권을 가질 것인가라는 전략적 선택으로 정리한다. 오픈AI 같은 서비스의 API를 쓰면 1,000건 데이터 튜닝에 7.5달러 정도, 우리 돈으로 만 원이 채 안 든다. 반대로 회사 기밀 데이터를 다뤄야 하거나 모델을 마음대로 주무르고 싶다면 클라우드나 자기 컴퓨터에서 오픈소스 모델을 직접 돌리는 편이 맞다.

가장 중요한 재료는 데이터인데, 여기서 흔한 상식이 뒤집힌다. 많을수록 좋다는 통념과 달리 핵심은 압도적인 질이다. 판단 기준은 세 가지로, 오탈자나 오류가 없는 깨끗함, 너무 쉽지도 어렵지도 않은 난이도, 그리고 한쪽으로 치우치지 않은 다양성이다. 아이디어가 통할지 확인만 해보는 단계라면 50~200건이면 충분하고, 오픈AI도 성능을 눈에 띄게 개선하는 데 50건이면 된다고 밝혔다는 것이 영상의 설명이다.

실습은 무료 구글 코랩에서 시작한다. 코랩이 주는 무료 GPU 메모리가 15GB 남짓이라 최신 모델을 돌리기에는 빠듯한데, Unsloth라는 오픈소스 도구가 메모리 사용량을 70% 줄여 이 한계를 넘게 해준다. 전체 과정은 코랩 노트북을 새로 열고, Unsloth를 설치하고, 원하는 모델과 데이터를 불러오고, 훈련을 준비해 실행한 뒤 결과를 테스트하는 여섯 단계다.

주요 인사이트

• 기술적 난이도보다 먼저 결정해야 할 것은 편의와 통제 사이의 선택이다. 빠른 아이디어 검증이라면 API가 낫고, 기밀 데이터가 얽히면 오픈소스 자체 운영이 답이 된다.
• 데이터 50~200건이라는 숫자가 뜻하는 바는 단순한 절약이 아니다. 파인튜닝이 대규모 데이터 수집 프로젝트에서 며칠짜리 실험 사이클로 성격이 바뀌었다는 뜻이다.
• 파라미터 1% 미만을 건드려 성능 95%를 지킨다는 비대칭이 QLoRA를 개인 GPU까지 끌어내린 핵심이다. 780GB와 48GB의 차이는 접근권의 차이다.
• 비용이 커피 두 잔 값 수준으로 내려오면 의사결정의 기본값도 바뀐다. 한 번 해볼까가 아니라 안 할 이유가 무엇인가를 묻는 상황이 된다.
• 무료 코랩의 15GB라는 제약을 Unsloth의 메모리 최적화로 넘는 구성은, 하드웨어를 늘리는 대신 소프트웨어로 병목을 푸는 최근 흐름을 잘 보여준다.

자주 묻는 질문

관련 AI 소식