파이토치 분산 학습 입문: DataParallel과 DistributedDataParallel 차이와 GIL 병목, CMU 딥러닝 실습
카네기멜런 딥러닝 수업 실습에서 파이토치의 두 가지 데이터 병렬 방식을 같은 코드로 비교했다. 한 줄이면 끝나는 DataParallel이 왜 느린지, 파이썬 GIL과 그래디언트 동기화 방식의 차이가 어디서 갈리는지 짚는다.
핵심 내용 읽기 →
AI TOPIC
딥러닝 실습 최신 뉴스와 핵심 해설
딥러닝 실습 관련 핵심 뉴스와 활용 인사이트 2편을 최신순으로 모았습니다.
파이토치 DataLoader 사용법 정리: 배치·셔플·drop_last·샘플러·collate_fn·num_workers 핵심
카네기멜런대 딥러닝 수업의 파이토치 데이터로더 실습을 정리했다. 배치와 셔플이 필요한 이유부터 drop_last, 지연 로딩, 커스텀 샘플러와 collate 함수, num_workers와 핀 메모리 설정까지 실무 기준으로 짚는다.
핵심 내용 읽기 →