Sieci neuronowe od podstaw do nowoczesnej AI · Od neuronu do MLP: architektura i forward pass
Implementacja 2-warstwowego MLP od zera (bez autograd, czysty NumPy)
Od neuronu do MLP: architektura i forward pass
Wprowadzenie
Najlepszy sposób żeby zrozumieć MLP to zaimplementować go od zera, bez ukrytego cudu PyTorch autograd. Ta lekcja prowadzi przez czysto-NumPy implementację 2-warstwowego MLP: inicjalizację wag (Xavier/Glorot vs Kaiming), forward pass krok po kroku z cache'owaniem aktywacji, ręczne liczenie loss (MSE i CE), wektoryzację (zero pętli Pythona), broadcasting biasu, batch processing, oraz typowe bugi shape'owe. Zobaczysz co dokładnie robi nn.Linear pod maską i czemu dobry seed (np.random.seed) zwiększa reprodukowalność. Backward pass i trening są tematem rozdziału 3 — tutaj skupiamy się WYŁĄCZNIE na forward pass z parametrami zainicjalizowanymi losowo.