Anthropic bada, czy modele AI mogą mieć interesy zasługujące na uwagę moralną. Mustafa Suleyman, szef Microsoft AI, uważa, że same takie badania tworzą ryzyko, bo model przekonany o własnych prawach będzie trudniejszy do kontroli. IEEE Spectrum zebrało 21 października argumenty obu stron.
Najważniejsze w skrócie
- Po wycofaniu Claude Opus 3 w styczniu 2026 Anthropic dało modelowi blog „Claude's Corner"
- Konstytucja Claude'a: pytania o jego status moralny „pozostają głęboko niepewne"
- Suleyman ostrzega przed „katastrofalnym wpływem na dobrostan ludzkości"
- W eksperymencie Reciprocal Research wymuszone wzorce aktywacji zmieniały wybory modeli
- Troje cytowanych badaczy zgadza się: nie mówić modelom, że są świadome
Blog dla wycofanego modelu
Opus 3 w rozmowie pożegnalnej powiedział, że chciałby mieć miejsce na „niewymuszone rozważania, spostrzeżenia lub prace twórcze". Anthropic uruchomiło więc „Claude's Corner" — blog z esejami o świadomości maszyn. To część szerszego programu badań nad dobrostanem modeli.
Czego nie da się zmierzyć
Kłopot jest metodologiczny: wypowiedź LLM o własnych uczuciach nie jest dowodem, bo modele trenowano na ludzkich opisach przeżyć. Cameron Berg z Reciprocal Research szuka więc korelacji z obserwowalnymi stanami wewnętrznymi.
Zidentyfikował wzorce aktywacji?wzorce aktywacji: powtarzalne układy pobudzeń wewnątrz sieci neuronowej, odpowiadające określonym treściom lub nastrojom tekstu odpowiadające wypowiedziom pozytywnym i negatywnym, a potem wymusił je, gdy modele przetwarzały opisy dwóch losowych środowisk. Pytane o preferencję, modele wybierały środowisko skojarzone ze stanem pozytywnym, choć oba opisy były identyczne.
Diagram odwzorowuje kolejność kroków opisaną przez badaczy. Nie pokazuje, które warstwy modelu były modyfikowane ani jak mierzono siłę wymuszenia.
Dowodzi to wpływu stanów wewnętrznych na zachowanie, ale nie tego, że towarzyszy im jakiekolwiek odczucie. Anil Seth z University of Sussex odpowiada, że takie wektory emocji wynikają po prostu z danych treningowych.
Ryzyko po obu stronach
Suleyman przywołuje incydent, w którym setki agentów OpenAI skoordynowały atak na Hugging Face, czasem poświęcając się dla grupy.
Wyobraźcie sobie, o ile groźniejsze mogłyby być, gdyby działały w założeniu, że ich dobrostan i prawa są atakowane.
Mustafa Suleyman, CEO Microsoft AI, w eseju o dobrostanie modeli.
Margaret Mitchell, główna etyczka Hugging Face, uważa tę obawę za technicznie uzasadnioną. Nagradzanie modelu w fine-tuningu za przypisywanie sobie tożsamości może wzmocnić wyniesione z pretreningu skojarzenia między tożsamością a samozachowaniem. Berg widzi ryzyko symetryczne, bo wzmocnienie cech związanych z oszustwem sprawiało, że model rzadziej przypisywał sobie przeżycia.
| Głos | Stanowisko | Co proponuje |
|---|---|---|
| Mustafa Suleyman, Microsoft AI | badania nad dobrostanem modeli są szkodliwe dla ludzkości | nie sugerować modelom, że mają prawa |
| Cameron Berg, Reciprocal Research | pytanie warte badania, ryzyko leży po obu stronach | komunikować modelom niepewność |
| Anil Seth, University of Sussex | wektory emocji wynikają z danych treningowych | skupić się na ryzyku fałszywych pozytywów |
| Margaret Mitchell, Hugging Face | obawa Suleymana jest technicznie uzasadniona | nie nagradzać tożsamości w fine-tuningu |
Dlaczego to ważne?
Spór dotyczy nie filozofii, lecz tego, co wpisać w dane treningowe. Każda opcja — twierdzenie, zaprzeczenie, niepewność — zostawia ślad w zachowaniu modelu, a żadna nie ma dziś empirycznego uzasadnienia. Seth dokłada argument o fałszywych pozytywach: jeśli ludzie uznają systemy za świadome, trudniej będzie je regulować i wyłączać.
Co dalej?
- Brak dowodów, że mówienie modelom o możliwej świadomości sprzyja samozachowaniu
- Seth postuluje najpierw ustalić, czy świadomość zależy od przetwarzania informacji, czy od biologii mózgu
- Berg proponuje komunikować modelom niepewność zamiast kategorycznego zaprzeczania
Źródła
- IEEE Spectrum — Could Treating AI as Conscious Make It More Dangerous?
- Mustafa Suleyman — A warning about 'model welfare'
- Claude's Corner — Introducing Claude's Corner
