빔서치 디코딩 완전 정리: 그리디 디코딩의 반복 함정부터 다양성 변형과 빔서치의 저주까지
CMU 고급 자연어처리 강의를 바탕으로 빔서치의 작동 원리와 길이 정규화 방법, 다양성 빔서치·확률적 빔서치 같은 변형, 그리고 빔 폭을 키울수록 오히려 품질이 떨어지는 '빔서치의 저주'라는 역설까지 정리했습니다.
핵심 내용 읽기 →
AI TOPIC
빔서치 최신 뉴스와 핵심 해설
빔서치 관련 핵심 뉴스와 활용 인사이트 3편을 최신순으로 모았습니다.
LLM 디코딩 탐색 알고리즘 정리: 그리디·빔서치·A*와 최적 탐색이 어려운 이유 (CMU 강의)
CMU 그레이엄 뉴빅의 LLM 추론 강의가 그리디 탐색과 빔서치부터 A*, 최선 우선 빔서치까지 정리한다. 모델이 좋아진 지금 왜 다시 제대로 탐색할 때인지, 언어모델에 최적 탐색이 어려운 이유는 무엇인지 짚었다.
핵심 내용 읽기 →
LLM 디코딩 전략 완전 정리: 그리디·랜덤·탑K·탑P·온도·민P 샘플링과 빔서치까지
ChatGPT 같은 대규모 언어모델이 매 단계 확률에서 실제 토큰을 골라내는 디코딩 전략을 그리디·랜덤·탑K·탑P·온도·민P·반복 페널티·빔서치로 나눠, 일관성과 창의성의 균형 관점에서 쉽게 풀이한다.
핵심 내용 읽기 →