Bezpieczeństwo agentów AI — ataki, jailbreak i obrona · Jak działa atak na agenta AI — model mentalny i mapa zagrożeń
Threat modeling canvas dla agenta z narzędziami — ćwiczenie praktyczne
Jak działa atak na agenta AI — model mentalny i mapa zagrożeń
Wprowadzenie
Threat modeling (modelowanie zagrożeń) to systematyczny proces identyfikowania, oceniania i priorytetyzowania zagrożeń w architekturze systemu. Dla agenta AI z narzędziami, taki "canvas" (płótno analizy) obejmuje cztery wymiary: Assets (co chronić), Threats (jak można zaatakować), Vulnerabilities (jakie słabości ma nasz agent), Controls (jakie mechanizmy obrony wdrożyć). Ta lekcja uczy praktycznego stosowania threat modelingu metodami STRIDE i PASTA w kontekście agenta AI, mapowania zagrożeń na komponenty oraz priorytetyzacji zagrożeń przez scoring ryzyka.