03·nn.Module, nn.Parameter, warstwy i ich rejestracja

Wprowadzenie

nn.Module to bazowa klasa wszystkich modeli i warstw w PyTorch. Definiuje protokół rejestracji parametrów i sub-modułów oparty o magię __setattr__: gdy przypisujesz atrybut typu nn.Parameter lub nn.Module, jest on automatycznie indeksowany w wewnętrznych słownikach _parameters i _modules. Ta lekcja przechodzi przez cykl życia modułu, różnicę między atrybutem a zarejestrowanym parametrem, role nn.ModuleList / nn.Sequential, mechanizm state_dict i hook'i, oraz mode train/eval i jego wpływ na BatchNorm/Dropout.