Sieci neuronowe od podstaw do nowoczesnej AI · Środowisko PyTorch i fundament tensorów
Autograd: computational graph, backward() i grad_fn
Środowisko PyTorch i fundament tensorów
Wprowadzenie
Autograd to silnik różniczkowania automatycznego PyTorcha — buduje dynamicznie graf operacji w trakcie forward i przechodzi go wstecz w backward(), produkując .grad dla wszystkich liści (leaf tensors) oznaczonych requires_grad=True. Ta lekcja rozkłada na czynniki pierwsze: wyzwalacz tworzenia grafu, atrybut grad_fn, różnicę między tensorem leaf a non-leaf, akumulację gradientów w .grad, kontekst no_grad i pułapki operacji in-place.