생각의 사슬이 통하는 이유와 자기학습 추론, 스탠퍼드 노아 굿맨 MIT 강연 정리
스탠퍼드 노아 굿맨 교수가 MIT 강연에서 생각의 사슬이 언제 실제로 이득이 되는지 실험으로 보였다. 학습 데이터가 세상의 조각만 담을 때 효과가 나타났고, 탐색 과정 학습과 자기학습 STaR의 가능성과 한계도 함께 짚었다.
핵심 내용 읽기 →
AI TOPIC
언어모델추론 최신 뉴스와 핵심 해설
언어모델추론 관련 핵심 뉴스와 활용 인사이트 3편을 최신순으로 모았습니다.
빔서치 디코딩 완전 정리: 그리디 디코딩의 반복 함정부터 다양성 변형과 빔서치의 저주까지
CMU 고급 자연어처리 강의를 바탕으로 빔서치의 작동 원리와 길이 정규화 방법, 다양성 빔서치·확률적 빔서치 같은 변형, 그리고 빔 폭을 키울수록 오히려 품질이 떨어지는 '빔서치의 저주'라는 역설까지 정리했습니다.
핵심 내용 읽기 →
생각의 사슬(체인 오브 소트) 원리와 한계 총정리 — CMU 대규모 언어모델 추론 강의 7강
CMU 그레이엄 뉴빅 교수의 대규모 언어모델 추론 강의를 정리했다. 생각의 사슬이 작동하는 이유와 학습 데이터에서 이 능력이 나온 배경, 수학·논리 밖에서 효과가 약해지는 지점, 여러 답을 뽑아 다수결하는 자기 일관성의 비용, 그리고 설명의 충실성 문제까지 짚는다.
핵심 내용 읽기 →