Context engineering łączy kilka technik stosowanych w każdym cyklu inferencji: (1) system prompt na właściwej „wysokości” — dość konkretny, by sterować zachowaniem, i dość elastyczny, by zostawić modelowi heurystyki; (2) minimalny, jednoznaczny zestaw narzędzi zamiast rozdętych bibliotek; (3) różnorodne, kanoniczne przykłady few-shot zamiast wyliczania przypadków brzegowych; (4) just-in-time retrieval — agent utrzymuje lekkie identyfikatory (ścieżki, URL-e, zapytania) i ładuje dane dopiero w momencie potrzeby (progresywne ujawnianie); (5) compaction — streszczanie historii przed osiągnięciem limitu okna, z zachowaniem decyzji architektonicznych i nierozwiązanych wątków; (6) structured note-taking / pamięć poza oknem kontekstowym dla spójności w długim horyzoncie; (7) architektury sub-agentów o czystym kontekście, zwracających skondensowane podsumowania (zwykle 1000–2000 tokenów) do agenta koordynującego.
Rozwiązuje degradację jakości odpowiedzi agentów LLM wynikającą z przeładowanego, źle dobranego lub nieaktualnego kontekstu. W miarę wydłużania okna kontekstowego rośnie „context rot” i kwadratowy koszt uwagi (O(n²)), a model gubi istotne informacje; context engineering porządkuje, przycina i dynamicznie dostarcza tylko potrzebne tokeny.
Trwałe instrukcje definiujące zachowanie agenta, sformułowane na właściwej „wysokości” — dość konkretne, by sterować, i dość ogólne, by zostawić modelowi heurystyki.
Oficjalna
Samowystarczalny, jednoznaczny zestaw narzędzi; należy unikać rozdętych zestawów o nakładających się funkcjach.
Oficjalna
Różnorodne, kanoniczne przykłady ilustrujące oczekiwane zachowanie, zamiast wyczerpującej listy przypadków brzegowych.
Oficjalna
Dotychczasowy przebieg interakcji, zarządzany strategiami kuracji (przycinanie, compaction) aby nie przekroczyć budżetu uwagi.
Informacje ładowane w czasie działania na podstawie lekkich identyfikatorów (ścieżki, URL-e, zapytania) zamiast wstępnego wgrywania całego kontekstu.
Oficjalna
Trwałe notatki i stan zapisywane poza oknem kontekstowym, przywoływane w razie potrzeby dla spójności w długim horyzoncie.
Oficjalna
Nadmierne wypełnianie okna kontekstowego pogarsza trafność przywoływania informacji przez model.
Zbyt wiele nakładających się narzędzi zwiększa liczbę tokenów i pomyłki w wyborze narzędzia.
Informacje umieszczone w środku długiego kontekstu są przywoływane rzadziej niż te na początku i końcu.
Agresywne streszczanie może usunąć szczegóły potrzebne później (np. nierozwiązane błędy, decyzje).
Wstrzyknięcie błędnych lub złośliwych treści do kontekstu utrwala je w kolejnych turach agenta.
Umieszczanie przykładów w kontekście jako sposób sterowania modelem — wczesny prekursor kuracji kontekstu.
Nacisk na sformułowanie pojedynczego promptu; fundament, który context engineering później uogólnił.
Dynamiczne wstrzykiwanie pobranej wiedzy do kontekstu spopularyzowało zarządzanie zawartością okna.
Termin spopularyzowany w połowie 2025 (Tobi Lütke, Andrej Karpathy), a LangChain opisał go w tekście „The rise of context engineering” (23 czerwca 2025).
Anthropic sformalizował praktyki (system prompt na właściwej wysokości, just-in-time retrieval, compaction, notatki, sub-agenci) w przewodniku z 29 września 2025.
Złożoność czasowa: O(n² · d). Złożoność przestrzenna: O(n · d · L).
Wraz z długością kontekstu rosną koszt uwagi (kwadratowo) i zajętość KV-cache (liniowo), co ogranicza efektywny „budżet uwagi” modelu.
Docelowa liczba tokenów utrzymywana w kontekście; niższy budżet ogranicza context rot kosztem mniejszej ilości informacji.
Wybór między wstępnym wgraniem kontekstu a pobieraniem just-in-time.
Poziom wypełnienia okna, przy którym uruchamiane jest streszczanie historii.
Liczba i granularność narzędzi udostępnionych agentowi; zbyt duży zestaw powoduje bloat i błędy wyboru.
Ile kanonicznych przykładów umieścić w kontekście, by skalibrować zachowanie bez marnowania budżetu tokenów.
Sposób utrwalania stanu i notatek poza oknem kontekstowym oraz reguły ich przywoływania.
Ilu wyspecjalizowanych sub-agentów o czystym kontekście koordynuje agent nadrzędny.
Zawartość kontekstu jest dobierana warunkowo, zależnie od stanu zadania i zapytania.
Agent decyduje w czasie działania, które dane załadować i które fragmenty historii zachować lub streścić, zamiast ładować wszystko z góry.
Architektury sub-agentów zrównoleglają pracę, zwracając skondensowane podsumowania do agenta koordynującego.
To praktyka projektowa na poziomie oprogramowania i orkiestracji, niezależna od konkretnego sprzętu.
Ograniczanie długości kontekstu zmniejsza zajętość KV-cache i koszt uwagi na GPU podczas inferencji.
