Flow Matching
Jak działa
1) Definiuje się ustaloną, warunkową ścieżkę prawdopodobieństwa interpolującą między próbką szumu a próbką danych (np. ścieżka gaussowska lub interpolacja transportu optymalnego). 2) Dla tej ścieżki analitycznie wyznacza się docelowe pole wektorowe, które ją generuje. 3) Sieć neuronowa uczy się regresować to pole wektorowe w losowo próbkowanych punktach czasu i przestrzeni (cel bezsymulacyjny). 4) Po treningu nowe próbki generuje się, startując od szumu i całkując wyuczone pole wektorowe standardowym solverem ODE aż do rozkładu danych.
Rozwiązany problem
Ciągłe przepływy normalizujące były trudne do trenowania na dużą skalę, ponieważ wymagały symulacji trajektorii ODE i różniczkowania przez solver w każdym kroku uczenia. Flow Matching eliminuje tę symulację, sprowadzając trening do prostej regresji pola wektorowego, co pozwala trenować CNF w skali wcześniej nieosiągalnej.
Implementacja
Ewolucja
Lipman i in. formułują Flow Matching jako bezsymulacyjny sposób treningu ciągłych przepływów normalizujących, obejmujący ścieżki dyfuzyjne i transportu optymalnego.
Flow Matching staje się celem treningowym action expertów w modelach Vision-Language-Action (m.in. SmolVLA), generując ciągłe trajektorie akcji robota.