Nvidia przyspiesza: sojusz OSAA pokazuje efekty tydzień po starcie

Tydzień po powołaniu sojuszu Open Secure AI Alliance (OSAA) grupa pokazała pierwsze konkretne narzędzia do zabezpieczania systemów AI. Inicjatywa, której przewodzi Nvidia, skupia już ponad 120 firm i działa pod skrzydłami Linux Foundation. Tempo jest znaczące jak na organizację, która dopiero co powstała.

Najważniejsze w skrócie

• OSAA skupia ponad 120 firm, a inicjatorem sojuszu jest Nvidia.
• Grupa robocza Shared AI Findings Exchange (SAFE) jest zarządzana przez Linux Foundation.
• Nvidia wniosła open-source'owy skaner podatności modeli językowych Garak.
• Amazon dołożył narzędzia Strands Agents i język autoryzacji Cedar.
• Anthropic, Google i OpenAI nie należą do sojuszu.

Sojusz z ponad 120 firmami

Sojusz, którego inicjatorem jest Nvidia, powstał po tym, jak ponad 200 firm technologicznych podpisało list otwarty wzywający Biały Dom do wsparcia rozwoju AI o otwartym kodzie. OSAA formalizuje tę współpracę wokół jednego celu: wspólnego wykrywania i łatania luk w systemach AI.

Sercem inicjatywy jest grupa robocza Shared AI Findings Exchange (SAFE), zarządzana przez Linux Foundation — tę samą organizację, która nadzoruje jądro Linuksa i dziesiątki projektów infrastrukturalnych. To ważny szczegół, bo oznacza neutralne, niezależne od pojedynczej firmy zarządzanie wynikami badań nad bezpieczeństwem.

Co już dostarczono

Zamiast poprzestać na deklaracjach, członkowie od razu przekazali gotowe narzędzia. Nvidia udostępniła Garak — otwarty skaner, który testuje modele językowe pod kątem podatności takich jak prompt injection^?prompt injection: Atak polegający na tak spreparowanym poleceniu, by model zignorował swoje instrukcje i wykonał działanie zamierzone przez atakującego. czy jailbreaki. Amazon dołożył Strands Agents, narzędzie do budowy agentów, oraz Cedar, język do definiowania reguł autoryzacji. Okta wniosła technologię tożsamości dla agentów AI, a Red Hat — mechanizmy zarządzania (governance) agentami.

W sojuszu są też m.in. Intel, Microsoft, Adobe, Cisco, Visa, BlackRock i Hugging Face. Wspólny mianownik jest jasny: bezpieczeństwo agentów AI, czyli systemów, które samodzielnie wykonują zadania i wymagają uwierzytelniania oraz kontroli uprawnień.

Kto jest, a kogo brakuje

Lista członków jest szeroka, ale rzuca się w oczy jej luka. Do OSAA nie należą trzy laboratoria budujące najsilniejsze modele: Anthropic, Google ani OpenAI. To istotne, bo sojusz stawia na otwartość jako drogę do bezpieczeństwa, a wymienione firmy opierają swoją przewagę na modelach zamkniętych. W liście grupy padło zdanie oddające jej filozofię.

Otwartość może być jedną z najważniejszych dróg do bezpieczeństwa AI.

Fragment listu Open Secure AI Alliance.

Dlaczego to ważne?

Bezpieczeństwo AI zwykle rozgrywa się wewnątrz zamkniętych laboratoriów, a wyniki testów rzadko są dzielone między firmami. OSAA próbuje odwrócić ten schemat: uczynić z wykrywania luk wspólne dobro, na wzór open source w oprogramowaniu. Szybkie dostarczenie działających narzędzi, a nie samych zapowiedzi, odróżnia tę inicjatywę od typowych branżowych deklaracji. Nieobecność Anthropic, Google i OpenAI pokazuje jednak, że linia podziału open kontra zamknięte przebiega także przez samo podejście do bezpieczeństwa, nie tylko przez modele.

Co dalej?

• Grupa SAFE pod Linux Foundation ma koordynować wymianę informacji o lukach — kolejne kontrybucje członków są zapowiadane na blogu Nvidii.
• Otwartym pytaniem pozostaje, czy do sojuszu dołączą Anthropic, Google lub OpenAI, których modele są dziś najczęstszym celem ataków.
• Rozwój narzędzi takich jak Garak zdecyduje, czy OSAA stanie się realnym standardem testowania, czy pozostanie zbiorem osobnych projektów.

Źródła

• TechCrunch — Nvidia doesn't mess around: A week after open AI industry group formed, it's already showing progress
• Linux Foundation — Proposing the SAFE Working Group
• NVIDIA Blog — Open Secure AI Alliance contributions