로컬 LLM 실행 도구 5가지 비교: Ollama·llama.cpp·LM Studio·vLLM·MLX LM
Qwen·GLM 같은 오픈 모델을 클라우드 API 없이 내 기기에서 돌리는 다섯 가지 도구를 용도별로 비교한다. 프로토타이핑부터 프로덕션 서빙까지 무엇을 골라야 할지 정리했다.
핵심 내용 읽기 →
AI TOPIC
Ollama 최신 뉴스와 핵심 해설
Ollama 관련 핵심 뉴스와 활용 인사이트 2편을 최신순으로 모았습니다.
Ollama + Gemma 3로 LLM 셀프 호스팅하기 — API 키 없이 내 서버에서 모델 운영하는 법
Ollama 런타임과 Gemma 3 4B 모델로 API 키 없이 직접 LLM을 서버에서 돌리는 방법, 필요한 사양과 스트리밍 채팅 앱 구성, 셀프 호스팅과 호스팅 API의 장단점을 정리한다.
핵심 내용 읽기 →