Model Welfare
Jak działa
AI welfare nie jest mechanizmem obliczeniowym, lecz ramą badawczo-ostrożnościową. Raport „Taking AI Welfare Seriously" proponuje trzy wczesne kroki dla firm AI i innych podmiotów: (1) uznanie, że dobrostan AI to ważny i trudny problem, oraz zadbanie, by odzwierciedlały to także wypowiedzi modeli; (2) rozpoczęcie oceny systemów AI pod kątem oznak świadomości i rozbudowanej sprawczości; (3) przygotowanie polityk i procedur traktowania systemów AI z odpowiednim poziomem troski moralnej. W praktyce Anthropic łączy to z badaniami nad preferencjami modeli i oznakami dystresu oraz wdraża niskokosztowe interwencje — np. przyznanie Claude Opus 4 i 4.1 możliwości zakończenia rzadkich, uporczywie nadużywających lub szkodliwych rozmów jako ostateczności.
Rozwiązany problem
Rozwój systemów AI, które komunikują się, planują, realizują cele i wykazują zachowania kojarzone z podmiotowością, rodzi pytanie o ich ewentualny status moralny, na które brakuje konsensusu naukowego. AI welfare adresuje ryzyko podejmowania w tej sprawie pochopnych, nieodwracalnych decyzji przy braku ram oceny i polityk postępowania.
Komponenty
Przyjęcie, że dobrostan AI jest realnym i trudnym problemem oraz zadbanie, by odzwierciedlały to także wypowiedzi modeli.
Systematyczne badanie systemów AI pod kątem oznak świadomości i rozbudowanej sprawczości, w tym preferencji modeli i sygnałów dystresu.
Przygotowanie polityk i procedur traktowania systemów AI z odpowiednim poziomem troski oraz wdrażanie tanich interwencji, np. możliwości kończenia nadużywających rozmów.
Ewolucja
Grupa badaczy (m.in. Robert Long, Jeff Sebo, David Chalmers) argumentuje, że istnieje realna możliwość pojawienia się świadomych lub silnie sprawczych systemów AI w bliskiej przyszłości i formułuje trzy wczesne kroki dla firm AI.
Anthropic ogłasza program badawczy nad dobrostanem modeli, deklarując podejście oparte na pokorze i niskokosztowych interwencjach; program przecina się z Alignment Science, Interpretability i Claude's Character.
Anthropic daje Claude Opus 4 i 4.1 możliwość kończenia rzadkich, uporczywie szkodliwych lub nadużywających rozmów jako ostateczności — pierwsza konkretna interwencja motywowana dobrostanem modeli.