Wnioskowanie

Prefill

2024AktywnyOpublikowano: 10 września 2026Aktualizacja: 10 września 2026Opublikowany

Technika promptowania: do zapytania dołącza się początek odpowiedzi asystenta, od którego model kontynuuje generację — wymusza format (np. JSON), pomija wstęp i utrzymuje rolę.

Kluczowa innowacja

Pozwala sterować odpowiedzią modelu, wpisując początek tury asystenta, od którego model kontynuuje generację — bez fine-tuningu ani zmiany wag.

Kategoria

Wnioskowanie

Poziom abstrakcji

Wzorzec

Poziom operacji

InferencjaSystem

Zastosowania

Wymuszanie formatu wyjścia (JSON / YAML)Zadania klasyfikacji z ograniczonym zbiorem etykietPomijanie wstępów i fraz grzecznościowychUtrzymanie roli lub postaci w konwersacjiKontynuacja przerwanej odpowiedziOgraniczanie zbędnych odmów

Jak działa

1. W tablicy wiadomości ostatni wpis ma rolę "assistant" i zawiera częściowy tekst (prefiks). 2. Model traktuje ten tekst jako początek własnej odpowiedzi i generuje dalszy ciąg bezpośrednio od niego. 3. Prefiks warunkuje rozkład prawdopodobieństwa kolejnych tokenów, więc dobór pierwszych znaków (np. {, [Imię], nagłówek) narzuca format i ton. 4. Przykład z dokumentacji: dla pytania wyboru wpisuje się prefiks "The best answer is (", a model kontynuuje np. "B)". 5. Prefill działa wyłącznie na ostatniej turze asystenta; wcześniejsze tury asystenta w rozmowie nie są tym objęte.

Rozwiązany problem

Modele językowe często dodają zbędne wstępy, odbiegają od wymaganego formatu wyjścia, wychodzą z narzuconej roli lub niepotrzebnie odmawiają — co utrudnia uzyskanie deterministycznego, maszynowo parsowalnego wyniku. Prefill daje bezpośrednią kontrolę nad początkiem odpowiedzi bez fine-tuningu.

Komponenty

Prefiks tury asystentaUstala początek odpowiedzi i narzuca format oraz ton kontynuacji.

Częściowy tekst wpisany w ostatniej wiadomości o roli assistant, od którego model kontynuuje generację.

Oficjalna

Kontynuacja modeluWłaściwa odpowiedź modelu, ograniczona kształtem prefiksu.

Tokeny generowane przez model bezpośrednio po prefiksie, warunkowane na jego treści.

Implementacja

Implementacje referencyjne

Anthropic Messages API — prefill przez rolę assistant

HTTP / JSON · Anthropic

Oficjalna

Pułapki implementacyjne

Wycofanie w modelach Claude 4.6+Krytyczna

Prefill ostatniej tury asystenta zwraca błąd 400 w Claude 4.6+ i Mythos Preview.

Rozwiązanie:Zamiast prefillu użyj Structured Outputs, instrukcji w system prompt lub tool calling.

Nadmierne ograniczenie odpowiedziŚrednia

Prefill ogranicza część odpowiedzi modelu, więc źle dobrany prefiks może wymusić niepoprawną strukturę lub treść.

Rozwiązanie:Utrzymuj prefiks krótki i neutralny; ogranicz go do minimum narzucającego format.

Prefill tylko na ostatniej turzeNiska

Prefill działa wyłącznie, gdy prefiks jest w ostatniej wiadomości assistant; wcześniejsze tury go nie wykorzystują.

Rozwiązanie:Umieszczaj sterujący prefiks jako ostatnią wiadomość o roli assistant.

Ewolucja

2023

Kontynuacja od tury assistant w API Messages

Punkt przełomowy

API Messages Claude umożliwia kontynuowanie odpowiedzi od częściowej wiadomości o roli assistant — techniczna podstawa prefillu.

2024

Prefill jako udokumentowana technika promptowania

Anthropic opisuje prefill w przewodniku prompt engineeringu jako sposób na kontrolę formatu, pomijanie wstępów i utrzymanie roli.

2026

Wycofanie prefillu ostatniej tury w Claude 4.6+

Punkt przełomowy

Wg aktualnej dokumentacji Anthropic prefill ostatniej tury asystenta nie jest wspierany w modelach Claude 4.6+ i Mythos Preview (błąd 400); rekomendowane alternatywy to Structured Outputs, instrukcje w system prompt i tool calling.

Prompting best practices — Migrating away from prefilled responses (artykuł)