Bezpieczeństwo
Superinteligencja
2014BadawczyAktualizacja: 15 września 2026Opublikowany
Hipotetyczna sztuczna inteligencja przewyższająca najlepsze ludzkie umysły w praktycznie każdej dziedzinie.
Kluczowa
innowacja
Pojęcie hipotetycznej inteligencji przewyższającej człowieka we wszystkich istotnych dziedzinach, wyznaczające horyzont i ramy debaty o ryzyku i kontroli AI.
Kategoria
Bezpieczeństwo
Poziom abstrakcji
Paradygmat
Poziom operacji
SystemModel
Zastosowania
Debata o bezpieczeństwie AIPolityka i regulacje AIBadania nad wyrównaniem (alignment)
Jak działa
Superinteligencja nie jest konkretną architekturą, lecz poziomem zdolności. W literaturze wyróżnia się m.in. drogi do niej (skalowanie modeli, rekurencyjne samodoskonalenie, emulacja mózgu) oraz scenariusze przejęcia kontroli i strategie ograniczania ryzyka (alignment, nadzór, ograniczanie możliwości).
Rozwiązany problem
Nadaje ramy pojęciowe do dyskusji o granicach rozwoju AI oraz o tym, jak zapewnić bezpieczeństwo i kontrolę nad systemami przewyższającymi człowieka.
Ewolucja
Oryginalny paper · 2014 · Nick Bostrom
Superintelligence: Paths, Dangers, Strategies
Nick Bostrom
2014
Książka Bostroma „Superintelligence”
Punkt przełomowyNick Bostrom systematyzuje pojęcie superinteligencji, jej drogi i ryzyka.