security-privacy
AI Software Supply Chain Security
Zabezpieczanie całego łańcucha dostaw oprogramowania AI — modeli, danych, zależności, rejestrów modeli i potoków — przed manipulacją, zatruciem danych i złośliwymi komponentami.
Kategoria
security-privacy
Poziom abstrakcji
System
Poziom operacji
WdrożenieDane
Zastosowania
Bezpieczne pobieranie modeli z rejestrówOchrona potoków MLOps przed zatruciemZgodność i audyt bezpieczeństwa systemów AI
Jak działa
Stosuje się weryfikację pochodzenia i podpisów artefaktów, skanowanie modeli i pakietów pod kątem złośliwego kodu (np. niebezpiecznych plików pickle), kontrolę integralności wag, SBOM dla AI, izolację środowisk oraz polityki zaufanych źródeł modeli.
Rozwiązany problem
Jak zapewnić, że modele, dane i zależności używane w systemie AI nie zostały zmanipulowane, zatrute ani podmienione po drodze?
Mocne strony i ograniczenia
Mocne strony
✓Obejmuje specyficzne dla AI wektory ataku (zatrucie, backdoory w wagach)
✓Buduje zaufanie do zewnętrznych modeli i danych
✓Wspiera zgodność regulacyjną
Ograniczenia
✗Trudna weryfikacja wag modeli pod kątem ukrytych backdoorów
✗Rozległy i złożony łańcuch dostaw
✗Brak dojrzałych, powszechnych standardów