Metoda działa w dwóch sekwencyjnych etapach promptowania na tym samym modelu: 1) Ekstrakcja rozumowania: do pytania dopisywana jest fraza-wyzwalacz „Pomyślmy krok po kroku", a model autoregresyjnie generuje jawny łańcuch pośrednich kroków rozumowania. 2) Ekstrakcja odpowiedzi: wygenerowany łańcuch jest doklejany z powrotem do promptu wraz z frazą wymuszającą odpowiedź (np. „Zatem odpowiedź (cyframi arabskimi) to"), a model produkuje finalną, sparsowaną odpowiedź. Cała procedura używa jednego, stałego szablonu dla wszystkich zadań — nie ma żadnych przykładów ani strojenia specyficznego dla zadania. Jakość wyników rośnie wraz ze skalą modelu.
Klasyczny few-shot Chain-of-Thought wymaga ręcznie przygotowanych, specyficznych dla zadania przykładów rozumowania — to kosztowne, kruche i słabo generalizuje się na nowe typy zadań. Zero-shot-CoT całkowicie usuwa potrzebę przykładów: jedna uniwersalna fraza-wyzwalacz odblokowuje wieloetapowe rozumowanie w dowolnym zadaniu, ujawniając ukryte zdolności rozumowania dużych modeli językowych.
Uniwersalna, niezależna od zadania fraza dopisywana do pytania, która skłania model do generowania jawnego łańcucha rozumowania. Sama sformułowanie ma istotny wpływ na skuteczność.
Oficjalna
Pierwszy przebieg modelu: pytanie + fraza-wyzwalacz na wejściu, generowany łańcuch pośrednich kroków rozumowania na wyjściu.
Drugi przebieg modelu: pytanie + wygenerowany łańcuch + fraza wymuszająca odpowiedź (np. „Zatem odpowiedź to") na wejściu, sparsowana finalna odpowiedź na wyjściu.
Oficjalna
Bez drugiego etapu ekstrakcji odpowiedź tonie w tekście rozumowania; naiwne parsowanie regexem często zawodzi na różnych formatach.
Efekt jest emergentny — małe modele nie generują użytecznego rozumowania i mogą tracić na trafności.
Drobne zmiany frazy-wyzwalacza potrafią zauważalnie zmienić wyniki.
Wei i in. pokazują, że przykłady z rozumowaniem krok po kroku poprawiają rozumowanie LLM — ale wymagają ręcznych demonstracji dla każdego zadania.
Kojima i in. dowodzą, że jedna uniwersalna fraza wywołuje rozumowanie bez przykładów, radykalnie poprawiając wyniki zero-shot (MultiArith 17,7%→78,7%, GSM8K 10,4%→40,7%).
Próbkowanie wielu łańcuchów rozumowania i głosowanie większościowe dodatkowo podnosi trafność — łączy się z Zero-shot-CoT.
Zhang i in. używają Zero-shot-CoT do automatycznego generowania przykładów rozumowania, budując few-shot CoT bez pracy ręcznej.
Złożoność czasowa: O(T_r + T_a). Złożoność przestrzenna: O(n).
Wąskim gardłem jest generowanie token po tokenie długiego łańcucha rozumowania oraz dwa sekwencyjne przebiegi modelu, które zwiększają latencję końcową.
Dokładne sformułowanie frazy uruchamiającej rozumowanie. Ma krytyczny wpływ na skuteczność.
Fraza etapu 2 wymuszająca zwrócenie finalnej odpowiedzi w parsowalnym formacie.
Liczba parametrów modelu bazowego. Korzyść z Zero-shot-CoT jest emergentna — pojawia się dopiero przy dużej skali.
Sposób próbkowania (greedy vs sampling). Greedy daje jeden łańcuch; sampling umożliwia łączenie z Self-Consistency.
Limit tokenów na łańcuch rozumowania w etapie 1 — kompromis między pełnością rozumowania a latencją/kosztem.
Zero-shot-CoT jest warstwą promptowania nad modelem bazowym — nie zmienia jego wewnętrznego wykonania, aktywne są wszystkie ścieżki modelu gęstego.
Technika promptowania działa na dowolnym, gęstym modelu językowym bez routingu.
Można zrównoleglić wiele niezależnych zapytań (batch), ale nie kroki wewnątrz jednego zapytania.
Zero-shot-CoT to warstwa promptowania — działa na dowolnym sprzęcie zdolnym uruchomić model bazowy.
W praktyce duże modele bazowe działają na GPU z tensor cores; dłuższe łańcuchy rozumowania zwiększają zapotrzebowanie na przepustowość inferencji.
