오픈소스 LLM 파인튜닝 입문 - 분류 파인튜닝 3가지 방식과 LoRA로 비용을 줄이는 법
세바스찬 라시카가 정리한 오픈소스 LLM 파인튜닝 입문 강연. 분류용 파인튜닝 세 가지 방식의 정확도 차이부터 지시 파인튜닝, LoRA의 행렬 분해 원리, 실제 학습 시간과 GPU 메모리 절감 수치까지 차례로 짚는다.
핵심 내용 읽기 →
AI TOPIC
오픈소스 LLM 최신 뉴스와 핵심 해설
오픈소스 LLM 관련 핵심 뉴스와 활용 인사이트 23편을 최신순으로 모았습니다.
AI 에이전트 장기 기억 구조 해설: Mem0의 저장소와 수집·검색 파이프라인 뜯어보기
허깅페이스 해설 영상이 오픈소스 메모리 라이브러리 Mem0를 예로 들어, AI 에이전트의 장기 기억이 세 개의 저장소와 수집·검색 파이프라인으로 어떻게 굴러가는지, 또 이 구조 전체를 작은 오픈 모델로 자기 컴퓨터에서 돌리려면 무엇이 필요한지 단계별로 뜯어본다.
핵심 내용 읽기 →
AI 코딩 ROI 측정과 오픈소스 모델 비용 전략: 현업 엔지니어 패널 질의응답 정리
데이터·보안·AI 밋업 패널 질의응답 정리. AI가 만든 코드의 가치를 어떻게 재는지, 오픈소스 모델을 비용 때문에 어디에 먼저 쓰는지, 모델 공급이 끊길 때를 대비하는 설계까지 현업의 답을 담았다.
핵심 내용 읽기 →
OLMo 2 개발기: 학습 불안정, 데이터, 중간 학습까지 완전 공개 모델 팀의 기록
앨런 AI 연구소의 OLMo 개발 리더들이 AMD 클러스터에서 시작한 초기 사정부터 70B 학습 실패와 안정화 조사, 데이터 확보의 제약, 중간 학습의 역할까지 공개 언어 모델 개발의 실제를 길게 풀어놨다.
핵심 내용 읽기 →
젬마 3(Gemma 3) 한국어 성능 테스트: 4B 모델 지능·이미지·툴 호출 검증 결과
구글이 공개한 오픈소스 모델 젬마 3를 4B 크기로 직접 내려받아 한국어 추론, 이미지 판독, 도구 호출까지 세 가지를 시험한 기록이다. 노트북급 모델이 어디까지 쓸 만하고 어디서 막히는지, 실제 실행 결과를 근거로 정리했다.
핵심 내용 읽기 →
Cell-o1 논문 해설: 7B 오픈소스 모델이 단일세포 분류에서 OpenAI o1을 73% 차이로 앞선 방법
NIH와 일리노이대 연구진이 7B 오픈소스 모델에 사람 전문가의 추론 과정과 배치 단위 보상을 가르쳤더니, 단일세포 RNA-seq 세포 분류 정확도가 OpenAI o1의 19.0%를 넘어 32.88%까지 올라갔습니다. 학습에 없던 질병 4종에서도 1위였습니다.
핵심 내용 읽기 →
BERTopic과 라마 2로 토픽 모델링 — 키워드를 사람이 읽는 주제 라벨로 바꾸기
십만 건이 넘는 논문 초록을 주제별로 묶고, 오픈소스 LLM을 붙여 키워드 나열을 사람이 바로 읽을 수 있는 주제 이름으로 바꾸는 과정을 BERTopic 제작자가 직접 시연한 튜토리얼 내용을 단계별로 정리했다.
핵심 내용 읽기 →
중국 오픈소스 AI 모델 러시와 RL 스케일링: 로스 테일러가 짚은 평가·인재·컴퓨트
GLM-4.5와 Kimi K2가 2주 사이 쏟아지며 오픈모델의 표준이 중국 쪽으로 기울고 있다. 전 라마 추론 리드 로스 테일러는 인재 신화보다 자원 배분과 평가 설계가 모델 품질을 가른다고 말한다.
핵심 내용 읽기 →
허깅페이스 오토리서치 실습 — 오픈소스 모델과 오픈코드로 만든 멀티 에이전트 자동 실험실
허깅페이스가 카르파티의 오토리서치를 오픈소스 모델로 재구성했다. 하나의 에이전트가 다 하던 일을 연구자·기획자·작업자·보고자로 쪼개, 학습 스크립트를 스스로 개선하게 만든 과정과 실행 중 드러난 한계를 함께 공개했다.
핵심 내용 읽기 →
MoE 전문가 혼합 모델이란? 희소 활성화와 오픈 모델 확산을 허깅페이스가 설명하다
허깅페이스 엔지니어가 전문가 혼합(MoE) 구조의 원리와 확산 배경을 설명했다. 일부 전문가만 켜는 희소 활성화로 추론 효율을 높이는 방식, 미스트랄과 딥시크가 만든 전환점, 학습이 까다로운 이유까지 정리했다.
핵심 내용 읽기 →
한국어 오픈소스 LLM 비교: 하이퍼클로바 X SEED, Qwen3, Gemma 3 성능과 선택 기준
네이버가 공개한 하이퍼클로바 X SEED와 알리바바의 Qwen3, 구글 Gemma 3를 같은 조건에서 돌려본 비교. 한국어 성능·멀티모달·함수 호출 기준으로 무엇을 골라야 할지 정리했다.
핵심 내용 읽기 →
안드레이 카파시 인터뷰: 코드 에이전트·오토리서치가 바꾸는 개발 방식과 일자리 전망
안드레이 카파시가 팟캐스트 No Priors에서 코드 에이전트를 여러 개 병렬로 굴리는 개발 방식과 사람을 루프에서 빼는 오토리서치, 오픈소스 모델의 위치, AI 시대의 일자리 전망까지 폭넓게 이야기했다.
핵심 내용 읽기 →
로컬 AI 변곡점: 온디바이스 모델·하네스·NVIDIA DGX Spark 총정리
엑소랩스·로보플로우·오스만틱 창업자들이 로컬 AI 서밋에서 짚은 온디바이스 AI의 변곡점. 모델과 하네스의 동반 발전, 멀티모델 라우팅, DGX Spark 최적화까지 핵심을 정리했다.
핵심 내용 읽기 →
GLM 5.2 vs Opus 4.8 실전 비교 — 8분의 1 가격 오픈소스 코딩 모델의 실력
MIT 라이선스로 공개된 오픈소스 모델 GLM 5.2로 할 일 앱과 이슈 트래커를 직접 만들어, Opus 4.8과 코드 품질·토큰 사용량·비용·실행 속도를 비교한 개발자의 실전 후기를 한국어로 정리했다.
핵심 내용 읽기 →
샤오미 MiMo, 첫 LLM 공개 1년 만에 오픈소스 선두로: bycloud 분석
스마트폰·가전·전기차로 성장한 샤오미가 MiMo 모델 계열로 오픈소스 LLM 리더보드 정상에 올랐다. bycloud가 논문과 벤치마크로 그 배경을 짚었다.
핵심 내용 읽기 →
Olmo 3 추론 모델 제작기: 사전학습·SFT·DPO·RLVR 강화학습과 평가 전략
완전 공개 추론 모델 Olmo 3를 만든 연구자가 아키텍처 선택, 추론 중심 데이터, SFT·DPO·강화학습(RLVR) 파이프라인, 그리고 평가에서 겪은 어려움까지 프런티어 모델 제작 과정을 처음부터 끝까지 설명한다.
핵심 내용 읽기 →
AI 에이전트 하네스가 모델보다 중요한 이유와 코딩 에이전트 설계 7단계
에시(Etsy) 엔지니어가 제안하는 발상의 전환. 좋은 하네스가 있으면 약한 오픈소스 모델로도 최신 모델급 성능을 낼 수 있다는 주장과, 코딩 에이전트를 단계별로 개선하는 방법을 정리했다.
핵심 내용 읽기 →
오픈소스 LLM 아키텍처 비교: GPT-OSS·Qwen 3·딥시크 V3의 설계 전략
OpenAI의 GPT-OSS, 알리바바 Qwen 3, 딥시크 V3를 아키텍처 관점에서 비교한다. MoE 구조, 어텐션 방식, 긴 문맥 확장 기법의 차이를 정리했다.
핵심 내용 읽기 →
AI 모델 선택 5원칙: 데일리 드라이버와 저비용 모델을 구분하는 법
모델 이름이 아니라 눈앞의 '일'에서 출발하라. 데일리 드라이버와 저비용 모델을 구분하고, 하니스와 난이도를 따져 나에게 맞는 AI 모델을 고르는 다섯 가지 원칙을 정리했다.
핵심 내용 읽기 →
클로드 코드를 로컬 오픈소스 모델로 무료로 쓰기: Ollama 연동 방법과 GPU·속도 한계
유료 클로드 모델 대신 Ollama로 로컬 오픈소스 모델을 돌려 클로드 코드에 무료로 연결하는 방법을 정리했다. GPU 요구 사항, 지원 모델 선택, 실제 코드 생성 시연과 속도·품질의 한계까지 짚는다.
핵심 내용 읽기 →
로컬 AI 모델 입문 가이드: 클라우드와의 차이, 필요한 하드웨어와 모델 선택
ChatGPT·클로드 같은 클라우드 AI와 달리 내 컴퓨터에서 직접 돌리는 로컬 AI 모델의 장단점, 필요한 하드웨어, Qwen·Nemotron 같은 모델 선택과 '두뇌-근육' 하이브리드 활용법을 정리했다.
핵심 내용 읽기 →
로컬 AI 코딩 모델, 실제 프로덕션 코드에서 쓸 만할까 — Qwen과 Opus 비교 실험
방위·의료·금융처럼 코드를 외부 클라우드로 보낼 수 없는 개발자를 위해, 노트북급 하드웨어에서 돌리는 오픈소스 AI 모델이 실제 프로덕션 코드베이스(Excalidraw·Warp)에서 어디까지 해내는지 직접 실험한 결과를 정리했다.
핵심 내용 읽기 →
Ollama + Gemma 3로 LLM 셀프 호스팅하기 — API 키 없이 내 서버에서 모델 운영하는 법
Ollama 런타임과 Gemma 3 4B 모델로 API 키 없이 직접 LLM을 서버에서 돌리는 방법, 필요한 사양과 스트리밍 채팅 앱 구성, 셀프 호스팅과 호스팅 API의 장단점을 정리한다.
핵심 내용 읽기 →