Transformer od zera · Self-attention od zera
Query, Key, Value
Self-attention od zera
Wprowadzenie
Query, Key i Value to trzy projekcje tej samej reprezentacji wejściowej. W tej lekcji rozdzielimy ich role: Query zadaje pytanie, Key opisuje, do czego można się dopasować, a Value niesie informację pobieraną do wyniku.