Wnioskowanie
Inference-time search
2022AktywnyAktualizacja: 22 września 2026Opublikowany
Rodzina metod poprawiających odpowiedzi modelu przez przeszukiwanie wielu ścieżek/kandydatów w czasie inferencji (np. best-of-N, przeszukiwanie drzewa), kosztem dodatkowych obliczeń.
Kluczowa
innowacja
Zamiana dodatkowych obliczeń w czasie inferencji na lepszą jakość odpowiedzi.
Kategoria
Wnioskowanie
Poziom abstrakcji
Wzorzec
Poziom operacji
Inferencja
Zastosowania
Modele rozumująceRozwiązywanie zadań matematycznych/kodowychTest-time compute scaling
Jak działa
Model generuje wielu kandydatów/rozgałęzień, które są oceniane i selekcjonowane (reranking, głosowanie, przeszukiwanie drzewa).
Rozwiązany problem
Pojedyncze, zachłanne generowanie często nie znajduje najlepszej odpowiedzi, zwłaszcza w rozumowaniu.