Bezpieczeństwo agentów AI — ataki, jailbreak i obrona · Prompt Injection — od atomowego exploitu do wieloetapowego ataku
Scenariusz: przeprowadź indirect injection na agencie z tool calling — zidentyfikuj trzy wektory
Prompt Injection — od atomowego exploitu do wieloetapowego ataku
Wprowadzenie
Ta lekcja ma format case study i threat modeling — zamiast definicji, ćwiczysz identyfikację wektorów ataku, szacowanie ryzyka i projektowanie mitygacji na konkretnym agencie produkcyjnym. Analizowany agent: "Asystent sprzedaży B2B" z dostępem do: email (read/send), CRM (read/write), calendar (read/write), web search i file upload. Dla każdego z trzech wektorów IPI przeanalizujesz anatomię ataku, impact i rekomendowane mitygacje zgodnie z OWASP LLM Top 10 (2023) i NIST AI RMF (2023).