Robocikowo>ROBOCIKOWO
Bezpieczeństwo

Model graniczny

2023AktywnyOpublikowano: 9 września 2026Aktualizacja: 9 września 2026Opublikowany
Najbardziej zaawansowane, wielkoskalowe modele fundamentalne o przełomowych, potencjalnie niebezpiecznych zdolnościach, będące przedmiotem regulacji bezpieczeństwa AI.
Kluczowa innowacja
Wyodrębnił z ogółu modeli fundamentalnych osobną klasę najbardziej zaawansowanych, wielkoskalowych modeli, których zdolności mogą stwarzać ryzyko dla bezpieczeństwa publicznego, czyniąc z niej podstawę regulacji i governance AI.
Kategoria
Bezpieczeństwo
Poziom abstrakcji
Paradygmat
Poziom operacji
ModelTrening
Zastosowania
Regulacja i polityka AI (EU AI Act, rozporządzenia krajowe)Ocena ryzyka i red-teaming przed wdrożeniemGovernance i standardy bezpieczeństwa (Frontier Model Forum)Klasyfikacja modeli ogólnego przeznaczenia wg progów obliczeniowychNadzór po wdrożeniu i raportowanie incydentów

Jak działa

„Frontier model" nie jest architekturą, lecz klasyfikacją modeli opartą na ich pozycji na granicy możliwości. W praktyce status graniczny wyznacza się przez: (1) skalę treningu — łączną moc obliczeniową w FLOP (np. próg 10^25 FLOP w AI Act) i liczbę parametrów; (2) ocenę groźnych zdolności (dangerous capability evaluations, red-teaming) przed wdrożeniem; (3) mechanizmy governance — rejestrację, raportowanie, monitorowanie po wdrożeniu oraz standardy bezpieczeństwa uzgadniane m.in. w ramach Frontier Model Forum i instytutów bezpieczeństwa AI. Ponieważ groźne zdolności bywają emergentne, ocena łączy pomiary ilościowe (compute, parametry, benchmarki) z jakościową analizą ryzyka.

Rozwiązany problem

Wcześniejsze pojęcia (model fundamentalny, LLM) nie odróżniały modeli, które ze względu na skalę i zdolności mogą stwarzać ryzyko dla bezpieczeństwa publicznego, od modeli codziennego użytku. Termin dostarcza operacyjnej kategorii — często opartej na progach mocy obliczeniowej — pozwalającej ukierunkować regulacje, ocenę ryzyka i nadzór na najbardziej ryzykowne modele.

Ewolucja

Oryginalny paper · 2023 · arXiv preprint (cs.CY / cs.AI), 2023 · Markus Anderljung
Frontier AI Regulation: Managing Emerging Risks to Public Safety
Markus Anderljung, Joslyn Barnhart, Anton Korinek, Jade Leung
2023
Raport „Frontier AI Regulation" popularyzuje termin
Punkt przełomowy

Anderljung i in. definiują modele graniczne jako wysoce zdolne modele fundamentalne o potencjalnie niebezpiecznych zdolnościach.

2023
Powstanie Frontier Model Forum

26 lipca 2023 Anthropic, Google, Microsoft i OpenAI zakładają branżowe forum ds. bezpieczeństwa modeli granicznych.

2023
AI Safety Summit w Bletchley Park

Pierwszy międzynarodowy szczyt poświęcony ryzykom modeli granicznych; Deklaracja z Bletchley.

2024
EU AI Act — próg 10^25 FLOP
Punkt przełomowy

Unijny AI Act wiąże ryzyko systemowe modeli ogólnego przeznaczenia z progiem mocy obliczeniowej treningu 10^25 FLOP.

Hiperparametry (konfigurowalne osie)

Moc obliczeniowa treningu (FLOP)Krytyczna

Łączna moc obliczeniowa użyta w treningu; kluczowy próg regulacyjny (AI Act: 10^25 FLOP).

> 10^25 FLOPPróg ryzyka systemowego GPAI w unijnym AI Act (art. 51).
Liczba parametrówWysoka

Rozmiar modelu; skorelowany ze zdolnościami, choć nie jest jedynym wyznacznikiem statusu granicznego.

Zakres modalnościŚrednia

Obsługa tekstu, obrazu, audio i wideo; modele graniczne coraz częściej są multimodalne.

Wymagania sprzętowe

Podstawowe

Trening modeli granicznych wymaga wielkoskalowych klastrów GPU z rdzeniami tensorowymi (dziesiątki tysięcy akceleratorów).

Dobry fit

TPU (np. Google) są stosowane do treningu i inferencji modeli granicznych, takich jak Gemini.