Robocikowo>ROBOCIKOWO
Bezpieczeństwo

System Card

2023AktywnyOpublikowano: 18 listopada 2026Aktualizacja: 18 listopada 2026Opublikowany
Dokument przejrzystości i bezpieczeństwa opisujący cały wdrożony system AI: jego możliwości, ograniczenia, oceny bezpieczeństwa, red-teaming, ryzyka i mitygacje — rozszerzenie koncepcji Model Card.
Kluczowa innowacja
Rozszerza raportowanie przejrzystości z pojedynczego modelu na cały wdrożony system AI — obejmując oceny bezpieczeństwa, red-teaming, ryzyka i mitygacje poza samym modelem (polityki użycia, kontrola dostępu, monitoring).
Kategoria
Bezpieczeństwo
Poziom abstrakcji
Wzorzec
Poziom operacji
SystemEwaluacja (runtime)Wdrożenie
Zastosowania
Dokumentacja przejrzystości przy wydaniu modeluKomunikacja ocen bezpieczeństwa i red-teaminguZarządzanie ryzykiem i governance AIZgodność i rozliczalność (np. EU AI Act)Informowanie o ograniczeniach i ryzykach systemuDue diligence przy wdrażaniu systemu AI

Jak działa

System Card jest ustrukturyzowanym raportem publikowanym zwykle przy wydaniu modelu lub systemu. Typowo zawiera: (1) ogólny opis modelu i systemu wraz z kontekstem wdrożenia; (2) możliwości i ograniczenia; (3) oceny bezpieczeństwa w kategoriach ryzyka, często w ramach formalnych procesów (np. Preparedness Framework w OpenAI czy Responsible Scaling Policy w Anthropic); (4) zewnętrzny red-teaming i zaangażowanie ekspertów (w GPT-4 System Card ponad 50 ekspertów); (5) opis zidentyfikowanych ryzyk; (6) mitygacje na poziomie modelu (np. trening bezpieczeństwa, RLHF) oraz na poziomie produktu i systemu (polityki, kontrola dostępu, monitoring); (7) ryzyka resztkowe i decyzję o wdrożeniu. Dokument jest opisowy — nie modyfikuje systemu, lecz dokumentuje jego zachowanie i proces zapewnienia bezpieczeństwa.

Rozwiązany problem

Model Card dokumentuje charakterystykę pojedynczego modelu, ale wdrożony system AI zawiera także komponenty spoza modelu — polityki użycia, kontrolę dostępu, moderację, narzędzia i monitoring — których zachowania i ryzyk sama karta modelu nie ujmuje. System Card odpowiada na potrzebę przejrzystości i rozliczalności na poziomie całego systemu, w tym mitygacji i ryzyk resztkowych pojawiających się dopiero po wdrożeniu.

Komponenty

Opis modelu i systemuWprowadzenie

Zakres dokumentu oraz opis modelu i systemu wokół niego (komponenty spoza modelu, kontekst wdrożenia).

Możliwości i ograniczeniaCharakterystyka

Co system potrafi i gdzie zawodzi, w tym zdolności podwójnego przeznaczenia.

Oceny bezpieczeństwaEwaluacja

Wyniki testów bezpieczeństwa w kategoriach ryzyka, często w ramach Preparedness Framework lub Responsible Scaling Policy.

Zewnętrzny red-teamingTesty adwersarialne

Zaangażowanie zewnętrznych ekspertów do adwersarialnego testowania systemu przed wdrożeniem.

Ocena ryzykAnaliza ryzyka

Zidentyfikowane ryzyka: bio-, cyber-, perswazja, prywatność, dezinformacja i inne.

MitygacjeŚrodki zaradcze

Mitygacje na poziomie modelu (trening bezpieczeństwa, RLHF) oraz systemu (polityki, kontrola dostępu, monitoring).

Wdrożenie i ryzyko resztkoweDecyzja wdrożeniowa

Ryzyka pozostające po mitygacjach oraz uzasadnienie decyzji o wdrożeniu.

Implementacja

Pułapki implementacyjne
Ograniczony, samoopisowy zakresŚrednia

System cards są dobrowolne i publikowane przez samego dostawcę; zakres bywa celowo zawężany (np. GPT-4 System Card jawnie wyłączył zdolności obrazowe i fine-tuning), co ogranicza pełność obrazu.

Rozwiązanie:Traktować system card jako jedno ze źródeł i uzupełniać je o niezależne audyty oraz ewaluacje.
Brak standaryzacji formatuŚrednia

Nie istnieje jednolity standard; różni dostawcy raportują różne kategorie ryzyk i metryki, co utrudnia porównywalność między systemami.

Rozwiązanie:Mapować treść na wspólne ramy (np. kategorie Preparedness Framework / RSP) przy porównaniach.

Ewolucja

2019
„Model Cards for Model Reporting” (Mitchell i in., FAT*)
Punkt przełomowy

Wprowadzenie karty raportowania modelu — fundament, który System Card rozszerza na poziom systemu.

2023
GPT-4 System Card (OpenAI)
Punkt przełomowy

Popularyzuje termin „system card”; analiza na poziomie systemu wraz z mitygacjami spoza modelu i red-teamingiem (ponad 50 ekspertów).

2024
GPT-4o System Card (OpenAI)

System card dla modelu multimodalnego; oceny w ramach Preparedness Framework oraz zewnętrzne oceny niebezpiecznych zdolności.

2024
OpenAI o1 System Card

Oceny bezpieczeństwa modelu rozumującego, zewnętrzny red-teaming, Preparedness Framework oraz deliberative alignment.

2024
System cards Anthropic dla modeli Claude

Anthropic publikuje system cards dla modeli Claude wraz z ocenami w ramach Responsible Scaling Policy i red-teamingiem.