Containment działa warstwowo: (1) izolacja środowiska — AI uruchamiane jest w odizolowanym sandboxie/maszynie wirtualnej bez bezpośredniego dostępu do sieci i sprzętu; (2) ograniczone kanały I/O — komunikacja ze światem jest wąska, filtrowana i logowana, by ograniczyć wektory oddziaływania; (3) tripwires i monitoring — automatyczne detektory anomalii zatrzymują system po przekroczeniu progów; (4) blinding — system nie ma dostępu do wybranych informacji (np. sposobu generowania nagrody), co utrudnia manipulację; (5) konstrukcja Oracle — system jedynie odpowiada na pytania, nie podejmuje działań. Kluczowym słabym punktem pozostaje człowiek-bramkarz, którego AI może próbować przekonać do zwolnienia jej z izolacji.
Jak ograniczyć szkody ze strony potencjalnie niedostosowanego lub niebezpiecznego systemu AI, gdy nie mamy pewności, że jego cele są zgodne z ludzkimi? Containment odpowiada, redukując zdolność systemu do wpływania na świat zewnętrzny, kupując operatorom czas i możliwość interwencji.
Izolowane środowisko wykonawcze (podobne do maszyny wirtualnej) ograniczające dostęp AI do sieci, sprzętu i systemów zewnętrznych.
Wąskie, filtrowane i logowane kanały komunikacji ograniczające możliwość wpływu AI na świat zewnętrzny.
Automatyczne detektory anomalii, które zatrzymują lub wyłączają system po wykryciu niepożądanego zachowania.
System zaprojektowany wyłącznie do odpowiadania na pytania, bez zdolności działania w świecie.
Odizolowana AI może przekonać ludzkiego bramkarza do uwolnienia jej lub rozszerzenia kanałów — jak sugeruje eksperyment AI-box.
Dostatecznie zdolny system może wykorzystać błędy bezpieczeństwa, kanały boczne lub skopiować się poza izolację.
Im silniejsza izolacja, tym mniej użyteczny system; presja na użyteczność stopniowo osłabia containment.
Eliezer Yudkowsky przeprowadza nieformalny eksperyment AI-box, pokazując, że nawet odizolowana AI może przekonać ludzkiego bramkarza do jej uwolnienia.
Armstrong, Sandberg i Bostrom formalizują metody kontroli i wykorzystania Oracle AI oraz ograniczenia izolacji.
Książka Nicka Bostroma 'Superintelligence' systematyzuje metody kontroli zdolności (boxing, tripwires, stunting, incentive methods) obok metod doboru motywacji.
Orseau (DeepMind) i Armstrong (FHI) publikują formalne wyniki o bezpiecznej przerywalności agentów, powiązane z kontrolą i wyłączaniem systemów.
