퍼셉트론이란? 챗GPT의 기본 단위가 된 1950년대 학습 기계와 신경망 역사, XOR 한계까지
다이얼과 스위치로 만든 1950년대 기계가 어떻게 챗GPT의 최소 단위가 되었을까. 퍼셉트론의 학습 규칙과 직선 하나로는 풀 수 없는 XOR 한계, 오차를 미분해 기울기를 얻는 LMS의 발견, 그리고 GPT-3의 뉴런 규모까지 실물 기계로 짚었다.
핵심 내용 읽기 →
AI TOPIC
딥러닝 역사 최신 뉴스와 핵심 해설
딥러닝 역사 관련 핵심 뉴스와 활용 인사이트 2편을 최신순으로 모았습니다.
트랜스포머 탄생사 정리: LSTM, 어텐션 seq2seq를 거쳐 GPT로 이어진 흐름
챗GPT와 클로드의 바탕이 된 트랜스포머는 하루아침에 등장하지 않았다. 기울기 소실 문제를 완화한 LSTM의 게이트, 어텐션을 붙인 seq2seq, 순환을 아예 버린 트랜스포머로 이어진 흐름을 차례로 정리했다.
핵심 내용 읽기 →