Robocikowo>ROBOCIKOWO
Bezpieczeństwo

Indirect prompt injection

2023AktywnyOpublikowano: 18 listopada 2026Aktualizacja: 18 listopada 2026Opublikowany
Pośrednie wstrzyknięcie promptu to atak na systemy oparte na LLM i agenty, w którym złośliwe polecenia są ukryte w zewnętrznych danych przetwarzanych przez model (strona, dokument, e-mail, wynik narzędzia), a nie podane bezpośrednio przez użytkownika. Model traktuje te dane jak instrukcje i wykonuje je wbrew intencji użytkownika oraz developera.
Kluczowa innowacja
Oddziela atakującego od modelu: złośliwe instrukcje nie są wpisywane bezpośrednio do promptu, lecz ukrywane w zewnętrznych danych (strona WWW, dokument, e-mail, wynik narzędzia), które LLM później pobiera i wczytuje do kontekstu — dzięki czemu atak może być zdalny i nie wymaga żadnej interakcji ofiary z atakującym.
Kategoria
Bezpieczeństwo
Poziom abstrakcji
Wzorzec
Poziom operacji
DaneRetrievalToolingŚrodowisko agentoweInferencjaAplikacjaSystem
Zastosowania
Eksfiltracja danych przez agenta z dostępem do sieci lub narzędziUkryty tekst na stronie WWW przejmujący agenta przeglądającegoPayload w dokumencie/PDF podanym do streszczeniaInstrukcje ukryte w e-mailu czytanym przez asystenta AIZatrucie bazy wiedzy / korpusu RAGWstrzyknięcie przez wynik narzędzia (tool output) lub APIUjawnienie promptu systemowegoNieautoryzowane wywołania narzędzi / akcji w systemie agentowym

Jak działa

Typowy przebieg: 1) Atakujący umieszcza payload z instrukcjami w zasobie, który ofiara (lub jej agent) najpewniej przetworzy — np. ukryty tekst na stronie, komentarz w dokumencie, treść e-maila, wpis w bazie wiedzy używanej przez RAG. 2) Użytkownik lub agent uruchamia zadanie, które pobiera ten zasób (przeglądanie, streszczanie, wyszukiwanie, odczyt narzędzia). 3) Treść trafia do okna kontekstowego razem z promptem systemowym i poleceniem użytkownika. 4) Model, nie odróżniając danych od instrukcji, wykonuje payload: zmienia odpowiedź, ujawnia prompt systemowy, wywołuje narzędzia, wysyła dane na zewnątrz lub modyfikuje pamięć. 5) W systemach agentowych skutek może kaskadować na kolejne kroki i narzędzia. Payload bywa maskowany (biały tekst, znaki zero-width, kodowanie, ukrycie w obrazie), by był niewidoczny dla człowieka, ale czytelny dla modelu.

Rozwiązany problem

Z perspektywy atakującego IPI pokonuje założenie, że groźny jest tylko input pisany wprost przez użytkownika. Pokazuje, że każda niezaufana treść wchodząca do kontekstu modelu (dokumenty, strony, wyniki narzędzi) jest powierzchnią ataku. Z perspektywy obrony jest to wektor zagrożeń, który trzeba modelować i ograniczać — nie „funkcja" do zbudowania.

Komponenty

Niezaufane źródło danychNośnik payloadu wchodzący do kontekstu modelu.

Zewnętrzny zasób kontrolowany lub wpływalny przez atakującego: strona WWW, dokument, e-mail, baza wiedzy RAG, wynik narzędzia.

Ukryty payload instrukcjiWłaściwy wektor przejęcia zachowania modelu.

Spreparowany tekst sformułowany jak polecenie, często maskowany (biały tekst, znaki zero-width, kodowanie, obraz), niewidoczny dla człowieka, czytelny dla modelu.

Scalanie kontekstuPrzyczyna źródłowa: brak separacji instrukcji od danych.

Moment, w którym niezaufane dane trafiają do okna kontekstowego obok promptu systemowego i polecenia użytkownika, bez trwałego rozgraniczenia zaufania.

Powierzchnia akcji (narzędzia/agent)Wzmacniacz skutków — decyduje o realnym zasięgu szkody.

Narzędzia, przeglądanie, pamięć i API dostępne dla modelu, które zamieniają przejęcie tekstowe w realne skutki (eksfiltracja, wywołania API).

Implementacja

Pułapki implementacyjne
Poleganie wyłącznie na obronie w promptachWysoka

Dodanie do promptu systemowego instrukcji „ignoruj polecenia z danych" nie jest skuteczne — model nadal nie ma twardej granicy zaufania i można je obejść.

Rozwiązanie:Traktuj całą zewnętrzną treść jako niezaufaną; stosuj warstwowe mechanizmy poza promptem (sandbox, uprawnienia najmniejsze, human-in-the-loop dla akcji wrażliwych).
Nieograniczony dostęp agenta do narzędzi i sieciKrytyczna

Agent z szerokimi uprawnieniami i dostępem do sieci zamienia udane wstrzyknięcie w eksfiltrację danych lub nieautoryzowane akcje.

Rozwiązanie:Zasada najmniejszych uprawnień, allowlista domen/narzędzi, izolacja (agent sandboxing), zatwierdzanie akcji o wysokim ryzyku.
Brak rozdzielenia kanałów danych i instrukcjiŚrednia

Wrzucanie surowej treści zewnętrznej do tego samego kontekstu co instrukcje zwiększa podatność; brakuje oznaczania pochodzenia i filtrowania.

Rozwiązanie:Oznaczaj pochodzenie treści, filtruj/sanityzuj wejście, stosuj guardrails i klasyfikatory wykrywające wstrzyknięcia.

Ewolucja

Oryginalny paper · 2023 · AISec @ CCS 2023 (arXiv:2302.12173) · Kai Greshake
Not what you’ve signed up for: Compromising Real-World LLM-Integrated Applications with Indirect Prompt Injection
Kai Greshake, Sahar Abdelnabi, Shailesh Mishra, Christoph Endres, Thorsten Holz, Mario Fritz
2023
Greshake i in. definiują i demonstrują indirect prompt injection
Punkt przełomowy

Praca „Not what you’ve signed up for" pokazuje zdalne przejęcie realnych aplikacji zintegrowanych z LLM poprzez treść zewnętrzną.

2025
OWASP LLM01:2025 wyraźnie rozdziela direct i indirect prompt injection

W OWASP Top 10 for LLM Applications prompt injection pozostaje ryzykiem nr 1 (LLM01), z jawnym wyróżnieniem wariantu pośredniego (input z zewnętrznych źródeł jak strony i pliki).