Na początku wagi są inicjalizowane losowo. Podczas treningu model przetwarza dane, oblicza błąd (funkcję straty), a algorytm optymalizacji (np. Adam) aktualizuje wagi zgodnie z gradientem, aby minimalizować stratę. Po treningu wagi są zamrażane i wykorzystywane podczas inferencji; można je też dalej dostrajać (fine-tuning) lub kompresować (kwantyzacja, pruning).
Wiedza i zdolności modelu muszą być gdzieś zapisane w formie umożliwiającej inferencję, dalsze uczenie i dystrybucję — tę rolę pełnią wagi.
