Robocikowo>ROBOCIKOWO

Sieci neuronowe od podstaw do nowoczesnej AI · Środowisko PyTorch i fundament tensorów

Autograd: computational graph, backward() i grad_fn

Środowisko PyTorch i fundament tensorów

Wprowadzenie

Autograd to silnik różniczkowania automatycznego PyTorcha — buduje dynamicznie graf operacji w trakcie forward i przechodzi go wstecz w backward(), produkując .grad dla wszystkich liści (leaf tensors) oznaczonych requires_grad=True. Ta lekcja rozkłada na czynniki pierwsze: wyzwalacz tworzenia grafu, atrybut grad_fn, różnicę między tensorem leaf a non-leaf, akumulację gradientów w .grad, kontekst no_grad i pułapki operacji in-place.