Bezpieczeństwo agentów AI — ataki, jailbreak i obrona · Red Teaming, monitoring i bezpieczny design systemu agentowego
Security evals w CI/CD pipeline: test suite jako continuous security gate
Red Teaming, monitoring i bezpieczny design systemu agentowego
Wprowadzenie
Continuous security gating przenosi red teaming z jednorazowych sesji do codziennego procesu inżynieryjnego. Lekcja omawia jak budować test suite bezpieczeństwa LLM, integrować je z GitHub Actions / GitLab CI, definiować progi akceptacji (pass/fail criteria), wersjonować scenariusze ataków oraz zarządzać kosztami tokenów przy automatycznym testowaniu.