PyTorch torch.compile CUDA 스트림 지원: 비동기 실행과 활성값 오프로딩으로 메모리 줄이기
메타 엔지니어가 발표한 torch.compile의 CUDA 스트림 지원 정리. 스트림 컨텍스트에서 그래프가 끊기던 문제를 Dynamo·AOT Autograd·Inductor 세 단계에서 어떻게 풀었는지와, 활성값 오프로딩의 실측 결과를 다뤘다.
핵심 내용 읽기 →
AI TOPIC
torch.compile 최신 뉴스와 핵심 해설
torch.compile 관련 핵심 뉴스와 활용 인사이트 2편을 최신순으로 모았습니다.
파이토치 사전 컴파일과 SPMD 타입: 분산 학습 병목과 잘못된 그래디언트를 줄이는 새 기능
파이토치 유럽 콘퍼런스 키노트를 정리했다. torch.compile의 사전 컴파일 지원과 컬렉티브 누락을 타입으로 잡아내는 SPMD 타입 등 대규모 분산 학습을 겨냥한 두 가지 개선안을 코드 관점에서 자세히 정리했다.
핵심 내용 읽기 →