옵티마인드 정리: 자연어 문제를 최적화 수식과 코드로 바꾸는 MS 리서치의 소형 모델
마이크로소프트 리서치가 공개한 옵티마인드는 자연어로 쓴 문제를 혼합정수선형계획 수식과 실행 가능한 솔버 코드로 바꾼다. 오류가 절반까지 섞인 학습 데이터를 전문가 힌트로 정제해 200억 파라미터로 프런티어급 성능을 낸 과정을 정리했다.
핵심 내용 읽기 →
AI TOPIC
소형 언어 모델 최신 뉴스와 핵심 해설
소형 언어 모델 관련 핵심 뉴스와 활용 인사이트 20편을 최신순으로 모았습니다.
검증 불가능한 과제의 강화학습: 2,200만 파라미터 보상 모델로 소형 언어모델 훈련하기
수학처럼 채점할 수 없는 요약·질의응답 과제에서 강화학습을 돌리려면 보상 함수부터 직접 만들어야 한다. 작은 답변 동등성 모델을 훈련하며 드러난 세 가지 편향과 두 차례의 리워드 해킹, 그리고 그 해결 과정을 정리했다.
핵심 내용 읽기 →
마이크로소프트 리서치 포럼: 소형 에이전트 모델과 실시간 검증, 그리고 AI 확산이 늦는 이유
마이크로소프트 리서치가 브라우저와 로컬 파일을 함께 다루는 소형 에이전트 모델, 실행 도중 규칙 위반을 잡아내는 검증 프레임워크, 보상 모델 없는 학습법, AI 확산이 더딘 이유를 짚은 경제 연구를 한자리에서 공개했다.
핵심 내용 읽기 →
마이크로소프트 MagenticLite 공개 — 소형 모델 기반 에이전트와 컴퓨터 조작 모델 Fara 1.5
마이크로소프트 리서치가 프런티어급 모델에 기대지 않고 돌아가는 에이전트 MagenticLite를 공개했다. 계획과 위임을 맡는 오케스트레이터 모델과 브라우저를 조작하는 Fara 1.5를 함께 내놓고, 웹과 로컬 파일을 한 흐름에서 처리하도록 했다.
핵심 내용 읽기 →
소형 언어모델 추론 개선: 외부 보상 모델 없이 자기비평으로 트리를 탐색하는 A* 기법
와이콤비네이터 행사에서 소개된 테스트 타임 A* 탐색 연구 정리. 대형 교사 모델이나 외부 보상 모델 없이 모델 자신의 자기비평 점수를 휴리스틱으로 써서 소형 모델의 수학 추론 정확도를 끌어올린 방법이다.
핵심 내용 읽기 →
레이밴 메타 스마트 글래스 사용기: 온디바이스 AI가 필요한 이유와 한국어 인식의 한계 정리
AI 연구자가 레이밴 메타 스마트 글래스를 직접 쓰며 온디바이스 AI가 필요한 네 가지 이유와 수혜가 예상되는 산업을 짚고, 한국어 인식률과 무게, 킬러 앱 부재에서 드러난 한계를 함께 정리했다. 협찬 없이 진행한 리뷰다.
핵심 내용 읽기 →
AI 스케일링 수익 체감과 소형 모델 전환, 한 엔지니어가 본 AI 시장 전망과 AGI 한계
모델을 키울수록 투자 대비 성능 향상이 줄고 있다. 비용 최적화와 기업 전용 모델로 옮겨가는 시장의 흐름, 대형 언어 모델이 AGI에 이르지 못하는 세 가지 이유, 벤치마크 불신까지 짚은 분석을 정리했다.
핵심 내용 읽기 →
VibeThinker 3B 검증: 소형 모델이 수학·코딩에서 거대 모델을 따라잡은 방법과 한계
웨이보 AI 랩이 공개한 30억 파라미터 VibeThinker 3B가 수학·코딩 벤치마크에서 수백 배 큰 모델과 겨뤘다. 검증 가능한 추론과 지식을 분리한 학습 레시피, 그리고 직접 실행에서 드러난 한계를 함께 짚었다.
핵심 내용 읽기 →
소형 언어 모델 파인튜닝 실전: 로컬 합성 데이터 생성부터 평가와 하네스 설계까지
1억 3500만 파라미터 모델을 내 문서 전용 일꾼으로 바꾸는 전 과정을 따라간다. 로컬 모델과 제약 디코딩으로 합성 데이터를 만들고, 학습과 평가를 거쳐 하네스로 감싸 실제 서비스에 쓰는 방법까지 정리했다.
핵심 내용 읽기 →
DPO 선호 학습으로 소형 언어모델 정렬하기 — SFT 이후 정답률 높이는 방법
1.35억 파라미터 소형 언어모델을 DPO로 선호 학습해 정답률을 끌어올리는 과정을, 다양성 측정부터 참조 모델과 정책 모델의 로그확률 격차까지 단계별로 정리했습니다.
핵심 내용 읽기 →
GRPO 강화학습 직접 구현: 소형 언어모델에 단계별 추론 능력을 학습시키는 방법
딥시크 R1이 쓴 GRPO 알고리즘을 라이브러리 없이 밑바닥부터 구현해 1억 3,500만 파라미터 소형 모델에 단계별 추론을 가르친 실험. 정확도는 45%에서 61%로 올랐고, 든 비용은 클라우드 GPU 5~6달러 수준이었다.
핵심 내용 읽기 →
음성 AI 에이전트, 작은 모델과 스캐폴딩으로 950ms 응답 만들기
마이크로소프트의 두 발표자가 실시간 음성 튜터 Ace를 사례로, 음성 에이전트의 진짜 예산은 지능이 아니라 밀리초 단위 지연 시간이라고 말한다. 추론을 상태 머신으로 빼내고 모델엔 말하기만 남겨 작은 모델로 900ms 응답을 만든 방법을 소개한다.
핵심 내용 읽기 →
캑터스 니들: 2600만 파라미터 함수 호출 특화 소형 AI 모델 정리
YC 스타트업 캑터스가 공개한 오픈소스 함수 호출 모델 '니들'은 파라미터가 2,600만 개뿐이다. MLP 없이 어텐션만으로 구성한 구조와 엣지 활용법을 살펴본다.
핵심 내용 읽기 →
MiniCPM-5 1B 모델과 온디바이스 AI '인지 코어' 개념 정리
안드레이 카파시가 말한 '인지 코어'는 지식을 욱여넣는 대신 추론과 도구 사용에 집중한 초소형 모델이다. 샘 위트빈이 1B급 MiniCPM-5를 직접 돌려보며 그 가능성과 한계를 짚는다.
핵심 내용 읽기 →
MAI Code 1 Flash: VS Code용 소형·고속 코딩 AI 모델과 실전 활용법
마이크로소프트가 VS Code에 공개한 소형 코딩 모델 MAI Code 1 Flash의 특징과, 실제 대시보드 기능을 몇 분·몇 센트에 완성하는 과정을 정리했다.
핵심 내용 읽기 →
온디바이스 소형 언어모델(SLM)로 프론티어 모델 비용 줄이기
모든 작업에 거대 모델을 쓰는 '한 사이즈로 다 맞추기'의 비용을 짚고, 작업에 맞는 소형·특화 모델을 골라 온디바이스로 돌리는 '크게 프로토타입, 작게 배포' 전략과 평가 방법을 정리했다.
핵심 내용 읽기 →
타이니 LLM 온디바이스 파인튜닝: 함수 호출 정확도 46%에서 90%로 올린 구글 사례
구글 AI 엣지 팀이 온디바이스 소형·초소형 LLM 전략과, 합성 데이터 파인튜닝으로 함수 호출 정확도를 46%에서 90% 이상으로 끌어올린 사례를 공유했다.
핵심 내용 읽기 →
소형 언어 모델(SLM) 파인튜닝 — 온디바이스 AI·양자화·프라이버시 가이드
기기에서 직접 돌아가는 소형 언어 모델을 만드는 이유와 방법을 실제 사례로 풀었다. 파인튜닝·양자화·데이터셋 제작과 프라이버시·비용 이점까지.
핵심 내용 읽기 →
소형 언어모델(SLM) 파인튜닝 실습: Gemma 3 270M으로 나만의 AI 만들기
10억 파라미터 미만의 소형 언어모델을 직접 파인튜닝하는 전 과정. Gemma 3 270M을 커스텀 데이터로 학습해 구조화 데이터를 추출하고, 허깅페이스에 올려 데모까지 공개하는 방법을 정리했다.
핵심 내용 읽기 →
대형 LLM vs 소형 모델, 언제 무엇을 써야 할까 비교 정리
AI 모델 크기는 파라미터 수로 측정된다. 대형 모델의 강점과 비용, 빠르게 똑똑해지는 소형 모델의 장점, 그리고 용도별로 어느 쪽을 골라야 하는지 IBM 설명으로 정리했다.
핵심 내용 읽기 →