AI TOPIC

신경망 최신 뉴스와 핵심 해설

신경망 관련 핵심 뉴스와 활용 인사이트 97편을 최신순으로 모았습니다.

카파시의 언어모델 첫걸음: 이름 3만 개로 만든 '가장 단순한 언어모델'과, 세는 방법과 학습하는 방법이 같은 답에 닿는 이유 영상 썸네일
Andrej Karpathy

안드레이 카파시 makemore 강의 정리 — 바이그램 문자 언어모델을 카운트와 경사하강 두 방법으로 만들기

안드레이 카파시가 이름 3만 2천 개로 문자 단위 바이그램 언어모델을 밑바닥부터 만든다. 빈도를 세어 표를 만드는 방법과 신경망을 경사하강으로 학습시키는 방법이 왜 똑같은 결과에 도달하는지, 그리고 트랜스포머로 이어지는 뼈대가 무엇인지 짚어본다.

핵심 내용 읽기 →
신경망 학습을 밑바닥부터 100줄로: 카파시가 직접 만든 마이크로그래드 강의 영상 썸네일
Andrej Karpathy

역전파와 신경망 학습 원리 완전 정리: 안드레 카파시가 직접 만든 마이크로그래드 강의 해설

안드레 카파시가 빈 주피터 노트북에서 시작해 자동미분 엔진 마이크로그래드를 한 줄씩 직접 만들며 역전파와 경사하강법을 설명한다. 미분의 의미를 잡는 단계부터 파라미터 41개짜리 신경망을 실제로 학습시키기까지의 흐름과, 강의 중 드러난 흔한 버그까지 정리했다.

핵심 내용 읽기 →
패턴 예측이 지능이 되기까지, LLM은 어떻게 세상을 장악했나 영상 썸네일
Art of the Problem

LLM 역사 정리: 성냥갑 강화학습부터 퍼셉트론과 이미지넷을 지나 GPT까지, 패턴 예측이 지능이 된 과정

성냥갑과 구슬로 만든 1960년대 학습 기계부터 퍼셉트론과 이미지넷, 그리고 GPT와 챗GPT까지. 패턴을 예측하는 단순한 능력 하나가 어떻게 오늘날의 인공지능으로 이어졌는지, 자연이 발명한 세 층의 학습을 따라 한 편의 흐름으로 정리했습니다.

핵심 내용 읽기 →
배치 정규화란? 신경망 학습을 빠르고 안정적으로 만드는 비결 영상 썸네일
AssemblyAI

배치 정규화란 무엇인가: 신경망의 불안정한 기울기 문제를 해결하고 학습 속도와 안정성을 높이는 정규화 기법

딥러닝 신경망에서 자주 발생하는 불안정한 기울기 문제를 해결하고 학습 속도를 끌어올리는 배치 정규화의 작동 원리와 표준화·스케일·오프셋 과정, 그리고 케라스로 한 줄에 구현하는 방법과 활성화 함수 앞뒤 배치 선택까지 쉽게 정리했습니다.

핵심 내용 읽기 →