에너지 기반 모델과 MCMC 학습법 정리 — 코넬대 심층 생성 모델 강의 11강 요약과 핵심 개념 해설
코넬대 심층 생성 모델 강의가 다루는 에너지 기반 모델을 정리했다. 정규화 상수를 포기해 얻는 표현의 자유와 그 대가, 이징 모델과 볼츠만 머신, 그리고 MCMC를 이용한 대조 발산 학습까지 차례로 짚는다.
핵심 내용 읽기 →
AI TOPIC
에너지 기반 모델 최신 뉴스와 핵심 해설
에너지 기반 모델 관련 핵심 뉴스와 활용 인사이트 9편을 최신순으로 모았습니다.
스코어 기반 생성모델 강의 정리: 분할함수 없이 학습하는 방법과 랑주뱅 동역학, 확산모델의 토대
코넬대 CS 6785 12강은 에너지 기반 모델의 분할함수 문제를 피하는 스코어 함수 학습법을 설명한다. 피셔 발산과 슬라이스·디노이징 스코어 매칭, 랑주뱅 동역학과 다중 노이즈 전략까지 강의 흐름대로 정리했다.
핵심 내용 읽기 →
지능이란 무엇인가, 계산신경과학자 제프 벡이 말하는 행위주체성과 에너지 기반 모델
돌멩이도 에이전트인가. 계산신경과학자 제프 벡이 행위주체성의 정의부터 에너지 기반 모델과 테스트 시점 학습, 지속 학습과 AGI 비판까지 지능의 조건을 짚은 대담 내용을 한국어로 알기 쉽게 정리했다.
핵심 내용 읽기 →
에너지 기반 모델(EBM) 쉽게 이해하기 — 제약 만족으로 추론하는 AI와 형식 검증의 결합
에너지 기반 모델은 다음 토큰을 예측하는 대신 답 전체가 조건에 맞는지 점수를 매긴다. 스도쿠 데모와 Lean 형식 증명 성적을 통해 언어모델의 추론과 무엇이 다른지, 어떤 분야에서 중요한지 정리했다.
핵심 내용 읽기 →
에너지 기반 트랜스포머(EBT) 해설: 추론을 경사하강법으로 푸는 새 학습 패러다임
에너지 기반 트랜스포머(EBT) 논문 리뷰 정리. 답을 한 번에 내놓는 대신 에너지 함수를 경사하강으로 최적화해 답을 다듬는 구조와 학습 정규화 기법, 확장성 실험 결과와 남은 한계를 함께 짚었다.
핵심 내용 읽기 →
얀 르쿤 월드 모델 강연 정리 — JEPA와 다음 AI 혁명
얀 르쿤이 ETH 취리히 강연에서 LLM의 한계를 짚고, 관찰로 세상을 배우는 '월드 모델'과 JEPA 구조가 왜 다음 AI 혁명의 열쇠인지 설명한다.
핵심 내용 읽기 →
얀 르쿤: LLM 추론이 원시적인 이유와 에너지 기반 모델·JEPA로 본 다음 세대 AI
얀 르쿤이 렉스 프리드먼과의 대화에서 현재 LLM의 추론이 왜 원시적인지, 그리고 답을 텍스트로 내기 전에 추상 표현 공간에서 최적화로 '생각'하는 에너지 기반 모델이 왜 다음 단계인지 설명한다.
핵심 내용 읽기 →
에너지 기반 트랜스포머(EBT)란? 어려운 토큰에 더 오래 생각하는 AI 모델 원리
에너지 기반 모델과 트랜스포머를 결합한 EBT는 토큰마다 계산량을 조절하고, 스스로 답의 확신도를 판단합니다. 학습·추론 방식과 한계를 정리했습니다.
핵심 내용 읽기 →
홉필드 네트워크란? 2024 노벨물리학상으로 본 신경망의 기억 저장과 에너지·확률 원리
2024년 노벨물리학상의 토대가 된 존 홉필드의 신경망이 활동 간 상관관계로 기억을 저장하고 떠올리는 방식, 외적으로 학습하고 부호로 예측하는 과정, 점수·에너지·확률의 관계와 RBM으로의 확장까지 일상 예시로 쉽게 풀어 설명합니다.
핵심 내용 읽기 →