한국어 sLLM Text-to-SQL 파인튜닝 실습: LoRA 학습과 GPT 평가 파이프라인 구축 정리
스터디 발표 영상을 바탕으로 한국어 소형 LLM을 Text-to-SQL 과제에 파인튜닝하는 과정을 정리했다. 데이터 구성과 LoRA 학습, LLM에게 채점을 맡기는 평가 파이프라인의 실무적인 걸림돌을 함께 다룬다.
핵심 내용 읽기 →
AI TOPIC
sLLM 최신 뉴스와 핵심 해설
sLLM 관련 핵심 뉴스와 활용 인사이트 2편을 최신순으로 모았습니다.
sLLM 서빙 최적화 정리, 연속 배치와 플래시 어텐션 페이지드 어텐션 그리고 vLLM 실습
작은 언어모델을 직접 서빙할 때 속도를 좌우하는 배치 전략과 어텐션 최적화, KV 캐시 관리 기법을 스터디 발표 내용과 실측 결과로 정리했다. vLLM으로 돌린 비교 실험과 로컬 모델의 도구 호출 한계까지 담았다.
핵심 내용 읽기 →