테스트 타임 스케일링 이론 분석: 백트래킹 알고리즘 VGB가 검증자 오차를 넘어서는 방법
프로세스 보상 모델의 오차가 답변이 길어질수록 증폭돼 액션 단위 리젝션 샘플링의 성능에 넘을 수 없는 한계를 만든다는 점을 이론으로 보이고, 되돌아가기를 섞은 새 알고리즘 VGB로 그 한계를 넘는 논문 리뷰를 정리했다.
핵심 내용 읽기 →
AI TOPIC
테스트 타임 스케일링 최신 뉴스와 핵심 해설
테스트 타임 스케일링 관련 핵심 뉴스와 활용 인사이트 7편을 최신순으로 모았습니다.
로봇 추론과 테스트타임 스케일링 정리 — ETH 취리히 로봇 학습 강의가 짚은 네 가지
ETH 취리히 로봇 학습 강의는 데이터를 더 모으는 대신 추론을 학습시키는 접근을 다룬다. 체화된 사고 사슬로 일반화가 약 30% 오르지만 행동이 느려지는 문제를 어떻게 되돌리는지, 테스트 시점 연산의 한계는 어디인지 정리했다.
핵심 내용 읽기 →
TTRL 논문 리뷰: 정답 레이블 없는 테스트 데이터로 LLM 추론 성능을 올리는 강화학습
정답 레이블이 없는 테스트 데이터만으로 언어 모델의 추론 성능을 끌어올리는 TTRL 논문 리뷰를 정리했다. 모델이 스스로 만든 다수결 결과를 추정 레이블 삼아 보상을 주는 방식과, 사전 지식이 부족할 때 드러나는 한계까지 함께 짚는다.
핵심 내용 읽기 →
소형 언어모델 추론 개선: 외부 보상 모델 없이 자기비평으로 트리를 탐색하는 A* 기법
와이콤비네이터 행사에서 소개된 테스트 타임 A* 탐색 연구 정리. 대형 교사 모델이나 외부 보상 모델 없이 모델 자신의 자기비평 점수를 휴리스틱으로 써서 소형 모델의 수학 추론 정확도를 끌어올린 방법이다.
핵심 내용 읽기 →
테스트 타임 스케일링과 에이전트 검증: 마이크로소프트 리서치 세션이 짚은 추론 비용 문제
마이크로소프트 리서치 인도 학술 서밋의 추론 세션 정리. 추론 시점에 계산을 더 쓸 때 따라오는 검증 비용을 난이도별 검증 주기로 줄이는 기법과, 정책 문서를 검증 코드로 바꿔 에이전트의 규정 준수를 실행 중에 확인하는 연구가 발표됐다.
핵심 내용 읽기 →
AI 가설 생성과 연구자의 역할 — 페이퍼벤치·제미나이 실험이 드러낸 한계와 세대 공백 경고
논문 재현 벤치마크와 생물학 가설 생성 실험을 놓고 두 사람이 나눈 대화를 정리했다. 모델이 아직 인간에게 못 미치는 지점, 그리고 신입이 사라지면 15년 뒤 전문가도 남지 않는다는 경고까지 짚는다.
핵심 내용 읽기 →
추론 모델의 현재 — 테스트 타임 스케일링과 벤치마크로 읽는 오픈AI·구글·메타의 서로 다른 목표
딥시크 R1 이후 추론 모델 연구는 어디까지 왔을까. 추론 학습이 정말 새로운 능력을 여는지를 둘러싼 최근 논쟁과, 각 사가 고른 벤치마크에서 드러나는 오픈AI·구글·메타의 서로 다른 지향을 현업 AI 연구자와 함께 짚었다.
핵심 내용 읽기 →