Ornith 1.0 설치·사용법: LM Studio로 내 PC에서 돌리는 오픈소스 로컬 코딩 AI

핵심 메시지

• Ornith는 새로 공개된 오픈소스 코딩 모델로, LM Studio를 이용해 개인 컴퓨터에서 로컬로 실행할 수 있다.
• 397B 대형 버전은 Terminal Bench, SWE Bench Verified·Pro 등에서 프런티어급 성능을 보이지만 가정용 PC로는 돌릴 수 없다.
• 일반 사용자는 9B(GGUF) 버전으로 시작하는 것이 현실적이며, VRAM 8GB(권장 12GB)면 실행 가능하고 용량은 약 5GB다.
• 로컬 실행이라 프롬프트가 외부로 나가지 않고 메시지당 비용도 없지만, 작은 모델이라 복잡한 작업에서는 실수를 한다.
• 오류가 나면 무엇이 문제인지 구체적으로 설명해 다시 요청하는 반복 루프로 대부분 고칠 수 있다.

쉽게 이해하기

영상은 새 오픈소스 코딩 모델 Ornith를 LM Studio로 개인 컴퓨터에서 직접 실행하는 방법을 안내한다. 이게 흥미로운 이유는 대형 Ornith 모델이 강력한 코딩 벤치마크 점수를 내고 있기 때문이다. 397B 버전은 Terminal Bench, SWE Bench Verified, SWE Bench Pro 등에서 프런티어급 코딩 시스템과 경쟁하는 수준으로 소개된다.

다만 대부분의 사용자는 397B를 집에서 돌릴 수 없다. 그것은 멀티 GPU나 클라우드, 연구소용이다. 그래서 발표자는 현실적인 출발점으로 9B 모델을 권한다. 9B-Q4는 VRAM 8GB(권장 12GB)면 되지만, 35B는 24GB, 397B는 멀티 GPU·데이터센터가 필요하다.

설치 과정은 단순하다. LM Studio를 내려받아 설치한 뒤, 모델 검색에서 Ornith를 찾아 9B GGUF(약 5GB)를 다운로드하고 모델을 로드하면 된다. 완전 오프라인 실행이 가능하다.

실제 사용 예로는 소수 판별 파이썬 함수, 단일 파일 HTML 투두 앱 생성, 다크모드 추가, 트레이딩 리스크 계산기 제작이 나온다. 작은 모델이라 한 번에 완벽하지 않고 버튼이 동작하지 않는 등 버그가 생기기도 하는데, 문제를 명확히 설명해 다시 요청하면 코드를 고쳐 준다.

발표자는 이 9B 모델을 '내 컴퓨터에서 돌아가는 똑똑한 주니어 개발자'에 비유한다. 간단한 스크립트, 기본 웹앱, 명백한 버그 수정에는 유용하지만, 대규모 코드베이스·복잡한 리액트·백엔드 아키텍처·프로덕션 코드에는 부적합하다. 핵심 트레이드오프는 프라이버시·비용 대 성능이다.

주요 인사이트

• 파라미터가 작아도 로컬 모델은 인터넷 없이 코딩을 도와줄 수 있어 프라이버시·비용 면에서 매력적이다.
• 작은 모델의 강점은 '반복 수정 루프'에 있다 — 버그를 명확히 설명하면 대체로 고칠 수 있다.
• 9B 모델은 '주니어 개발자', 프런티어 모델은 '시니어 개발자'로 비유되며 역할을 나눠 쓰는 게 현실적이다.
• 로컬 코딩 모델은 대규모 코드베이스·복잡한 프로젝트·프로덕션 코드에는 적합하지 않다.

자주 묻는 질문

관련 AI 소식