2017AktywnyAktualizacja: 22 września 2026Opublikowany
Technika kodowania ciągłych wektorów przez odwzorowanie ich na najbliższy wpis w wyuczonej książce kodów (codebook), dająca dyskretną reprezentację utajoną.
Kluczowa
innowacja
Uzyskanie dyskretnej, wyuczonej reprezentacji ciągłych danych przez książkę kodów.
Kategoria
Architektura
Poziom abstrakcji
Building block
Poziom operacji
Element architekturyWarstwa
Zastosowania
VQ-VAE / generacja obrazu i audioTokenizacja multimodalnaLatentowe modele języka
Jak działa
Enkoder mapuje wejście na wektor ciągły, który zostaje zastąpiony najbliższym wpisem w książce kodów; dekoder odtwarza wejście z kodu.
Rozwiązany problem
Modele autoregresyjne działają na tokenach dyskretnych, a wiele danych (obraz, dźwięk) jest ciągłych.
