DFlash2

DFlash2 to technika optymalizacji inferencji — „drafter” block-diffusion do speculative decoding — dostarczana jako lekki model draftowy 2B (BF16). Zamiast przewidywać tokeny pojedynczo, DFlash2 przewiduje cały blok tokenów w jednym przebiegu i zachowuje najlepsze kandydatury na każdej pozycji, po czym lekki selektor wyznacza jedną spójną ścieżkę.

W szkielecie wykorzystuje „two-tap” dynamiczne konwolucje i jest zaprojektowany do generowania 7–8 tokenów draftu na krok weryfikacji. Metoda jest bezstratna: wyjście zachłanne (greedy) dokładnie odpowiada modelowi docelowemu, a podczas próbkowania zachowywany jest rozkład modelu docelowego.

Twórcą jest Inco AI (repozytorium mirrorowane m.in. przez z-lab). DFlash2 osiąga 3,43× przyspieszenia przy współbieżności 1 na zadaniu GSM8K. Metodę opisano w publikacji DFlash (ICML 2026, Chen, Liang, Liu). Udostępniono na licencji Apache 2.0; stosowana m.in. do modeli Qwen3.8 i GLM-5.3-Flash.