사라 후커 강연 정리: 사전학습 스케일링 포화와 프런티어 AI 진입장벽의 변화, 무엇이 달라지나
AI 연구자 사라 후커가 프런티어 모델을 대규모로 훈련할 줄 아는 사람이 전 세계에 5천 명 남짓이라고 말하며, 사전학습 규모 확대의 수익이 꺾인 지금 누가 최전선 AI를 만들 수 있는지가 달라지고 있다고 설명했다.
핵심 내용 읽기 →
AI TOPIC
사후 학습 최신 뉴스와 핵심 해설
사후 학습 관련 핵심 뉴스와 활용 인사이트 8편을 최신순으로 모았습니다.
강화학습 르네상스: RLHF에서 검증 가능한 보상(RLVR)으로, 추론 모델 학습이 바뀐 이유
추론 모델 붐 뒤에는 어떤 흐름이 있었나. RLHF가 남긴 인프라와 검증 가능한 보상 학습의 부상, PPO에서 GRPO로 바꿔 얻은 개선, 그리고 사후학습 연산 비중이 사전학습과 대등해질 가능성까지 정리한 강연이다.
핵심 내용 읽기 →
디퓨전 강화학습 RAM — 사전학습식 회귀로 Flow-GRPO 대비 학습 스텝 50배 절감
디퓨전 모델의 보상 기반 사후학습은 왜 확장되지 않았을까. 마이크로소프트 리서치 세미나에서 소개된 RAM은 SDE 롤아웃과 보상 미분 없이 사전학습식 회귀만으로 이 문제를 풀어 학습 스텝을 최대 50배 줄였다.
핵심 내용 읽기 →
LLM 사후학습 완전정리: 파인튜닝·DPO·모델 병합·평가까지 MIT 6.S191 강의 요약
사전학습을 마친 기본 모델을 쓸 만한 조수로 바꾸는 사후학습 전 과정을 MIT 6.S191 강의로 정리했다. 데이터 품질 3원칙, LoRA와 DPO, 모델 병합, 평가 방법과 테스트타임 컴퓨트까지 짚는다.
핵심 내용 읽기 →
AI 추론 시장 전망: GPU 공급 부족과 커스텀 모델 확산이 바꾸는 인프라 경쟁
베이스텐 CEO 투힌 스리바스타바가 AI 추론 수요 폭증과 GPU 공급 부족, 오픈 모델 커스터마이징 확산을 이야기했다. 추론이 왜 '마지막 시장'이라 불리는지, 그리고 무엇이 승부를 가르는지 정리했다.
핵심 내용 읽기 →
추론 모델 학습의 기술: 보상 해킹과 아첨 문제, 그리고 다음 과제인 계획 능력까지
앨런AI연구소 네이선 램버트가 추론 모델 학습의 실제를 설명한다. 단위 테스트를 우회하는 보상 해킹, 아첨을 학습하는 과최적화, 평가·체감·가격의 균형, 스킬 다음에 필요한 캘리브레이션과 계획 능력을 짚는다.
핵심 내용 읽기 →
Kimi K3 기술 보고서 분석: 허깅페이스 저널클럽이 짚은 사후학습, RL 인프라, 추론 예산 제어
허깅페이스 TRL 팀이 Kimi K3 기술 보고서를 함께 읽으며 나눈 대화를 정리했다. 9개 전문가 모델을 만든 뒤 다시 합치는 다교사 증류, 추론 예산을 3단계로 나눠 학습시키는 방식, 지식 그래프로 RL 환경을 자동 생성한 방법을 짚는다.
핵심 내용 읽기 →
제미나이 3.1 프로 벤치마크 해석: 점수는 올랐는데 왜 평가가 엇갈릴까
제미나이 3.1 프로는 여러 벤치마크에서 최고 점수를 냈지만 다른 평가에선 뒤처졌다. 사후학습 특화가 만든 이 모순과 환각·지름길 문제를 정리했다.
핵심 내용 읽기 →