Transformer od zera · Generowanie tekstu
Autoregresyjne generowanie tokenów
Generowanie tekstu
Wprowadzenie
Nauczysz się, jak model decoder-only zamienia prompt w kolejne tokeny: przez iteracyjne wywołania forward, wybór następnego tokenu i dopisanie go do kontekstu.