Compaction
Jak działa
Gdy rozmiar konwersacji zbliża się do limitu okna kontekstowego, uruchamiany jest krok kompakcji: model otrzymuje polecenie (prompt kompakcji), które nakazuje mu wydestylować dotychczasową historię do zwięzłego streszczenia zachowującego istotne fakty (decyzje, otwarte problemy, szczegóły implementacyjne), a pomijającego redundantne wyniki narzędzi i mniej ważne wiadomości. Powstałe streszczenie staje się nasieniem nowego okna kontekstowego, w którym agent kontynuuje pracę. Anthropic zaleca strojenie promptu kompakcji od maksymalizacji recall (uchwycenie wszystkich istotnych informacji), a następnie iteracyjne poprawianie precyzji przez eliminację zbędnych treści. Kompakcję uzupełnia czyszczenie wyników narzędzi (tool result clearing), czyli usuwanie nieaktualnych wywołań i wyników narzędzi.
Rozwiązany problem
Okno kontekstowe modelu językowego ma skończony rozmiar, więc w długotrwałych, wieloetapowych zadaniach agentowych historia konwersacji (wiadomości, wyniki narzędzi) narasta aż do wyczerpania dostępnych tokenów, co uniemożliwia dalsze działanie lub prowadzi do utraty wcześniejszego kontekstu. Context Compaction rozwiązuje ten problem, kompresując historię do zwięzłego streszczenia, dzięki czemu agent zachowuje kluczowe informacje i może kontynuować pracę.
Komponenty
Wywołanie modelu, które destyluje dotychczasową historię konwersacji do zwięzłego streszczenia zachowującego kluczowe informacje.
Instrukcja sterująca tym, co streszczenie zachowuje, a co pomija; strojona od maksymalizacji recall do poprawy precyzji.
Utworzenie nowego okna kontekstowego, którego nasieniem jest wygenerowane streszczenie, umożliwiające dalszą pracę agenta.
Usuwanie nieaktualnych wywołań i wyników narzędzi z okna kontekstowego, komplementarne wobec streszczania.
Implementacja
Streszczenie zoptymalizowane pod precyzję kosztem recall może pominąć fakty potrzebne w dalszej pracy agenta.
Ewolucja
W artykule „Effective context engineering for AI agents” (29.09.2025) Anthropic opisuje kompakcję jako streszczanie historii konwersacji i reinicjalizację okna kontekstowego streszczeniem.
Anthropic udostępnia (public beta) context editing, które automatycznie usuwa nieaktualne wywołania i wyniki narzędzi przy zbliżaniu się do limitu tokenów; w testach context editing dał 29% poprawy, a wraz z memory tool 39%.
Hiperparametry (konfigurowalne osie)
Bliskość limitu okna kontekstowego (w tokenach), przy której uruchamiany jest krok kompakcji.
Kompromis między zachowaniem wszystkich istotnych informacji (recall) a eliminacją zbędnych treści (precyzja) w streszczeniu.
Wymagania sprzętowe
Kompakcja to technika na poziomie orkiestracji/inferencji, niezależna od konkretnego sprzętu.