Indirect prompt injection
Jak działa
Typowy przebieg: 1) Atakujący umieszcza payload z instrukcjami w zasobie, który ofiara (lub jej agent) najpewniej przetworzy — np. ukryty tekst na stronie, komentarz w dokumencie, treść e-maila, wpis w bazie wiedzy używanej przez RAG. 2) Użytkownik lub agent uruchamia zadanie, które pobiera ten zasób (przeglądanie, streszczanie, wyszukiwanie, odczyt narzędzia). 3) Treść trafia do okna kontekstowego razem z promptem systemowym i poleceniem użytkownika. 4) Model, nie odróżniając danych od instrukcji, wykonuje payload: zmienia odpowiedź, ujawnia prompt systemowy, wywołuje narzędzia, wysyła dane na zewnątrz lub modyfikuje pamięć. 5) W systemach agentowych skutek może kaskadować na kolejne kroki i narzędzia. Payload bywa maskowany (biały tekst, znaki zero-width, kodowanie, ukrycie w obrazie), by był niewidoczny dla człowieka, ale czytelny dla modelu.
Rozwiązany problem
Z perspektywy atakującego IPI pokonuje założenie, że groźny jest tylko input pisany wprost przez użytkownika. Pokazuje, że każda niezaufana treść wchodząca do kontekstu modelu (dokumenty, strony, wyniki narzędzi) jest powierzchnią ataku. Z perspektywy obrony jest to wektor zagrożeń, który trzeba modelować i ograniczać — nie „funkcja" do zbudowania.
Komponenty
Zewnętrzny zasób kontrolowany lub wpływalny przez atakującego: strona WWW, dokument, e-mail, baza wiedzy RAG, wynik narzędzia.
Spreparowany tekst sformułowany jak polecenie, często maskowany (biały tekst, znaki zero-width, kodowanie, obraz), niewidoczny dla człowieka, czytelny dla modelu.
Moment, w którym niezaufane dane trafiają do okna kontekstowego obok promptu systemowego i polecenia użytkownika, bez trwałego rozgraniczenia zaufania.
Narzędzia, przeglądanie, pamięć i API dostępne dla modelu, które zamieniają przejęcie tekstowe w realne skutki (eksfiltracja, wywołania API).
Implementacja
Dodanie do promptu systemowego instrukcji „ignoruj polecenia z danych" nie jest skuteczne — model nadal nie ma twardej granicy zaufania i można je obejść.
Agent z szerokimi uprawnieniami i dostępem do sieci zamienia udane wstrzyknięcie w eksfiltrację danych lub nieautoryzowane akcje.
Wrzucanie surowej treści zewnętrznej do tego samego kontekstu co instrukcje zwiększa podatność; brakuje oznaczania pochodzenia i filtrowania.
Ewolucja
Praca „Not what you’ve signed up for" pokazuje zdalne przejęcie realnych aplikacji zintegrowanych z LLM poprzez treść zewnętrzną.
W OWASP Top 10 for LLM Applications prompt injection pozostaje ryzykiem nr 1 (LLM01), z jawnym wyróżnieniem wariantu pośredniego (input z zewnętrznych źródeł jak strony i pliki).