Robocikowo>ROBOCIKOWO
Wyszukiwanie

JIT Retrieval

2025AktywnyOpublikowano: 10 września 2026Aktualizacja: 10 września 2026Opublikowany
Strategia pozyskiwania kontekstu, w której agent AI dynamicznie ładuje dane dopiero gdy są potrzebne, zamiast wstępnie wypełniać całe okno kontekstu.
Kluczowa innowacja
Zamiast wstępnie ładować cały potencjalnie potrzebny kontekst, agent przechowuje lekkie identyfikatory (ścieżki plików, zapytania, linki) i pobiera dane dopiero w momencie ich potrzeby, za pomocą narzędzi w trakcie działania.
Kategoria
Wyszukiwanie
Poziom abstrakcji
Wzorzec
Poziom operacji
RetrievalŚrodowisko agentoweOrkiestracja
Zastosowania
Agenty kodujące (np. Claude Code) nawigujące po repozytoriach przez glob/grepEksploracja dużych zbiorów danych bez ładowania całych plików (head/tail, zapytania)Agenty long-horizon z pamięcią zewnętrzną (pliki notatek, to-do)Systemy hybrydowe łączące pre-retrieval z pobieraniem na żądanieNawigacja po systemach plików i zewnętrznych źródłach przez lekkie identyfikatory

Jak działa

1) Agent przechowuje lekkie referencje (ścieżki plików, zapisane zapytania, linki) zamiast pełnych danych. 2) W trakcie działania rozpoznaje, jakie informacje są potrzebne do bieżącej decyzji. 3) Używa narzędzi (np. grep, glob, Bash head/tail, pobieranie stron), by dynamicznie sięgnąć po dane bez ładowania całych obiektów do kontekstu. 4) Korzysta z metadanych środowiska (rozmiary plików sugerują złożoność, nazwy sugerują przeznaczenie, znaczniki czasu przybliżają istotność) jako sygnałów nawigacyjnych. 5) Dzięki progresywnemu ujawnianiu (progressive disclosure) każda interakcja dostarcza kontekstu informującego kolejny krok, a w pamięci roboczej pozostaje tylko to, co niezbędne. Wymaga to przemyślanej inżynierii — właściwych narzędzi i heurystyk — bo bez tego agent marnuje kontekst, błędnie używając narzędzi lub podążając w ślepe zaułki.

Rozwiązany problem

Wstępne ładowanie całego kontekstu wypełnia okno modelu, podnosi koszty i pogarsza jakość odpowiedzi z powodu "context rot" — im więcej tokenów, tym gorsza zdolność modelu do trafnego przywołania istotnych informacji. Klasyczny pre-retrieval oparty na embeddingach cierpi też na nieaktualne indeksy i sztywne pipeline'y. Just-in-Time Retrieval ogranicza te problemy, utrzymując w kontekście tylko dane faktycznie potrzebne w danym kroku.

Komponenty

Lekkie identyfikatoryAdresowanie danych bez ich materializacji w kontekście

Ścieżki plików, zapisane zapytania i linki webowe przechowywane zamiast pełnych danych; wskazują, skąd pobrać treść na żądanie.

Oficjalna

Narzędzia pobieraniaDynamiczne wczytywanie danych do kontekstu w momencie potrzeby

Narzędzia wykonywane w trakcie działania, które dynamicznie sięgają po dane — np. grep, glob, Bash head/tail, pobieranie stron — bez ładowania całych obiektów.

Oficjalna

Sygnały metadanychKierowanie eksploracją i priorytetyzacją danych

Hierarchia katalogów, konwencje nazewnicze, rozmiary plików i znaczniki czasu jako wskazówki o złożoności, przeznaczeniu i istotności danych.

Progresywne ujawnianieInkrementalne odkrywanie istotnego kontekstu

Iteracyjny mechanizm, w którym każda interakcja dostarcza kontekstu informującego kolejną decyzję; agent buduje zrozumienie warstwa po warstwie.

Implementacja

Pułapki implementacyjne
Marnowanie kontekstu przez błędne użycie narzędziWysoka

Bez właściwych heurystyk agent podąża w ślepe zaułki, błędnie używa narzędzi lub nie rozpoznaje kluczowych informacji.

Rozwiązanie:Dostarcz przemyślane, opiniotwórcze narzędzia i heurystyki nawigacji po środowisku informacyjnym.
Wyższe opóźnienie eksploracji w trakcie działaniaŚrednia

Eksploracja na żądanie jest wolniejsza niż pobranie danych wstępnie policzonych z powodu wielu round-tripów.

Rozwiązanie:Zastosuj podejście hybrydowe — wczytuj stabilne dane z góry, resztę pobieraj just-in-time.
Słabe metadane środowiskaŚrednia

Niespójne nazewnictwo i struktura katalogów pozbawiają agenta sygnałów nawigacyjnych i pogarszają trafność pobrań.

Rozwiązanie:Utrzymuj czytelne konwencje nazewnicze, hierarchię i aktualne znaczniki czasu.

Ewolucja

Oryginalny paper · 2025 · Anthropic Engineering Blog · Prithvi Rajasekaran
Effective context engineering for AI agents
Prithvi Rajasekaran, Ethan Dixon, Carly Ryan, Jeremy Hadfield
2020
RAG ustanawia paradygmat pre-retrievalu opartego na embeddingach

Retrieval-Augmented Generation popularyzuje wstępne pobieranie i wstrzykiwanie danych do kontekstu — punkt odniesienia, wobec którego pozycjonuje się strategia just-in-time.

2025
Anthropic formalizuje kontekst just-in-time dla agentów
Punkt przełomowy

Artykuł "Effective context engineering for AI agents" (29.09.2025) definiuje strategię just-in-time i opisuje jej hybrydowe zastosowanie w Claude Code.

Hiperparametry (konfigurowalne osie)

Budżet eksploracji (liczba wywołań narzędzi)Wysoka

Limit round-tripów narzędziowych na zadanie; równoważy dokładność z opóźnieniem i kosztem.

Ziarnistość pobieraniaWysoka

Ile danych ładuje się w pojedynczym kroku (np. cały plik vs. fragment przez head/tail/grep).

Proporcja pre-load vs. just-in-timeŚrednia

Jaka część kontekstu jest ładowana z góry (np. CLAUDE.md), a jaka pobierana na żądanie.

Jakość heurystyk metadanychŚrednia

Jak dobrze nazewnictwo, struktura katalogów i znaczniki czasu prowadzą agenta do właściwych danych.

Złożoność obliczeniowa

Wąskie gardło obliczeniowe

Opóźnienia sekwencyjnych wywołań narzędzi

Wielokrotne round-tripy narzędziowe i operacje I/O w trakcie działania wprowadzają opóźnienie; to główny koszt w zamian za mniejsze zużycie kontekstu.

Paradygmat wykonania

Tryb główny
Warunkowy

Ładowanie danych następuje warunkowo — tylko gdy agent uzna je za potrzebne.

Wzorzec aktywacji
Zależne od wejścia
Mechanizm routingu

Agent w trakcie działania decyduje, które dane pobrać, na podstawie bieżącej potrzeby i sygnałów metadanych.

Równoległość

Poziom równoległości
Sekwencyjny

Progresywne ujawnianie jest z natury sekwencyjne — kolejny krok zależy od wyniku poprzedniego. Niezależne pobrania mogą być częściowo zrównoleglone.

Zakres
Inferencja

Wymagania sprzętowe

Podstawowe

To wzorzec orkiestracji na poziomie oprogramowania/agenta, niezależny od konkretnego akceleratora.