Zachowanie AI
Model Spec
2024AktywnyAktualizacja: 15 września 2026Opublikowany
Dokument opisujący zamierzone zachowanie modelu AI (zasady, priorytety, wyjątki), używany do jego wyrównania i oceny.
Kluczowa
innowacja
Jawny dokument specyfikujący pożądane zachowanie modelu, który staje się źródłem prawdy dla dostrajania, wyrównania i oceny modelu.
Kategoria
Zachowanie AI
Poziom abstrakcji
Wzorzec
Poziom operacji
Po-treningAplikacja
Zastosowania
Wyrównanie modeli (alignment)Definiowanie polityk zachowania modeluOcena i testy behawioralne modeli
Jak działa
Zespół definiuje zasady i priorytety (np. bezpieczeństwo ponad użyteczność w określonych sytuacjach) wraz z przykładami i wyjątkami. Specyfikacja jest następnie wykorzystywana do generowania danych treningowych, dostrajania modelu, tworzenia testów behawioralnych i oceny, czy model spełnia założenia. Aktualizacje specyfikacji przekładają się na kolejne iteracje wyrównania.
Rozwiązany problem
Zachowanie modeli bywa niejawne i niespójne. Model Spec czyni oczekiwane zachowanie jawnym, mierzalnym i możliwym do egzekwowania oraz audytu.
Ewolucja
Oryginalny paper · 2024
OpenAI Model Spec
2024
OpenAI publikuje Model Spec
Punkt przełomowyPierwsza szeroko znana, jawna specyfikacja pożądanego zachowania modelu.