Preparedness Framework
Jak działa
OpenAI ocenia wszystkie modele graniczne za pomocą powtarzalnych ewaluacji (dawniej „scorecards”), również przy każdym 2-krotnym wzroście efektywnej mocy obliczeniowej podczas treningu. Zdolności klasyfikowane są w śledzonych kategoriach, a wyniki mapowane na progi zdolności. Osiągnięcie progu „High capability” wymaga zabezpieczeń wystarczająco ograniczających ryzyko przed wdrożeniem modelu; próg „Critical capability” wymaga zabezpieczeń także na etapie rozwoju. Safety Advisory Group ocenia, czy zabezpieczenia są wystarczające, i przekazuje rekomendacje kierownictwu, które podejmuje ostateczne decyzje. Framework przewiduje też skalowalne, automatyczne ewaluacje oraz możliwość korekty wymagań w reakcji na zmiany w otoczeniu konkurencyjnym.
Rozwiązany problem
Rozwój modeli granicznych może prowadzić do powstania zdolności zdolnych wyrządzić poważne szkody (broń biologiczna, cyberataki, autonomiczne samodoskonalenie AI), zanim istnieją wystarczające zabezpieczenia. Framework rozwiązuje brak usystematyzowanego, jawnego procesu mierzenia tych zdolności i wiązania decyzji o rozwoju oraz wdrożeniu z konkretnymi progami ryzyka.
Komponenty
Ustalone kategorie zdolności o wysokim ryzyku. W wersji z 2025 r.: zdolności biologiczne i chemiczne, cyberbezpieczeństwo oraz samodoskonalenie AI. W wersji Beta (2023): cyberbezpieczeństwo, CBRN, perswazja i autonomia modelu.
Wprowadzone w 2025 r. obszary mogące stwarzać poważne ryzyko, które nie spełniają jeszcze kryteriów kategorii śledzonych: długozakresowa autonomia, sandbagging (celowe zaniżanie wyników), autonomiczna replikacja i adaptacja, podważanie zabezpieczeń oraz zagrożenia nuklearne i radiologiczne.
Od 2025 r. dwa progi: „High capability” (może wzmocnić istniejące ścieżki poważnej szkody — wymaga zabezpieczeń przed wdrożeniem) oraz „Critical capability” (może stworzyć bezprecedensowe nowe ścieżki poważnej szkody — wymaga zabezpieczeń także w trakcie rozwoju). Wersja Beta stosowała czterostopniową skalę: niskie, średnie, wysokie, krytyczne.
Techniczne i operacyjne mechanizmy, które muszą „wystarczająco ograniczać” ryzyko, zanim model osiągający dany próg zdolności zostanie wdrożony lub rozwijany dalej.
Międzyfunkcyjny zespół wewnętrznych liderów bezpieczeństwa, który ocenia, czy zabezpieczenia wystarczająco ograniczają poważne ryzyko, i przekazuje rekomendacje (od zgody na wdrożenie po żądanie dodatkowych ewaluacji lub silniejszych zabezpieczeń) kierownictwu OpenAI.
Powtarzalne ewaluacje aktualizowane m.in. przy każdym 2-krotnym wzroście efektywnej mocy obliczeniowej podczas treningu; w 2025 r. rozszerzone o skalowalne, automatyczne ewaluacje uzupełniane eksperckimi „deep dives”.
Ewolucja
Pierwsza wersja z czterema śledzonymi kategoriami (cyberbezpieczeństwo, CBRN, perswazja, autonomia modelu) i czterostopniową skalą ryzyka.
Aktualizacja z 15 kwietnia 2025: zawężone śledzone kategorie (biologiczne i chemiczne, cyberbezpieczeństwo, samodoskonalenie AI), nowe kategorie badawcze, dwa progi (High, Critical) oraz Safety Advisory Group; perswazja przeniesiona poza framework.