01·Autoenkodery: enkoder, dekoder i przestrzeń latentna

Wprowadzenie

Autoenkoder to sieć ucząca się rekonstrukcji własnego wejścia przez wąskie gardło — kompresuje x do reprezentacji z = f(x), a następnie odtwarza x̂ = g(z). Lekcja rozbiera klasyczne AE, denoising AE (Vincent et al. 2008), sparse AE, contractive AE, undercomplete vs overcomplete oraz różnicę między AE a PCA. Pokazuje co naprawdę reprezentuje przestrzeń latentna, dlaczego klasyczne AE NIE jest modelem generatywnym i jakie są typowe pułapki (identity mapping, manifold collapse).