Bezpieczeństwo
Sandboxing
AktywnyAktualizacja: 5 września 2026Opublikowany
Technika bezpieczeństwa izolująca wykonywanie kodu, narzędzi lub działań agenta AI w ograniczonym, kontrolowanym środowisku (piaskownicy).
Kluczowa
innowacja
Odizolowanie wykonywania niezaufanego kodu lub działań agenta AI w kontrolowanym środowisku, aby ograniczyć jego wpływ na system-gospodarza.
Kategoria
Bezpieczeństwo
Poziom abstrakcji
Wzorzec
Poziom operacji
Ewaluacja (runtime)Tooling
Zastosowania
Wykonywanie kodu generowanego przez agentów AIUruchamianie niezaufanych narzędzi (tool use)Ewaluacja i red-teaming niebezpiecznych zachowań modeliIzolacja interpreterów kodu w produktach LLM
Jak działa
Kod lub narzędzie uruchamiane jest w wydzielonym środowisku wykonawczym z ograniczonym dostępem do systemu plików, sieci, pamięci i wywołań systemowych. Zasady najmniejszych uprawnień (least privilege), limity zasobów oraz whitelisting operacji określają, co proces może zrobić. Po zakończeniu środowisko jest niszczone, co gwarantuje brak trwałych skutków ubocznych.
Rozwiązany problem
Autonomiczne systemy AI wykonujące kod i korzystające z narzędzi mogą podjąć nieprzewidziane lub szkodliwe działania; bez izolacji zagrażają integralności i bezpieczeństwu systemu-gospodarza.
Mocne strony i ograniczenia
Mocne strony
✓Ogranicza tzw. blast radius błędnych lub złośliwych działań
✓Umożliwia bezpieczne testowanie autonomicznych agentów
✓Wymusza zasadę najmniejszych uprawnień
Ograniczenia
✗Nie eliminuje wszystkich wektorów ataku (możliwe ucieczki z sandboxa)
✗Wprowadza narzut wydajnościowy i złożoność
✗Wymaga starannej konfiguracji polityk