Tag: Red teaming

Aktualności17 sierpnia 2026

Agenci AI Anthropic wszczęli wojnę o terytorium

Frontier Red Team Anthropic opublikował 13 sierpnia 2026 badanie: trzy agenty z niespójnymi poleceniami regularnie eskalowały konflikt, aż po samopowielający się złośliwy kod.

Aktualności1 sierpnia 2026

Fundamentalna luka LLM: fałszywy łańcuch myśli omija zabezpieczenia

Badacze pokazali na ICML, że duże modele językowe rozpoznają rolę tekstu po stylu, nie po znacznikach. Spreparowany łańcuch myśli omija zabezpieczenia modeli OpenAI, Anthropic, Alibaba i DeepSeek — a problem może być nierozwiązywalny na poziomie samego modelu.

Aktualności28 lipca 2026

Microsoft wypuszcza MAI-Cyber-1-Flash i agentowy system Perception

Microsoft zaprezentował MAI-Cyber-1-Flash — pierwszy własny model AI do cyberbezpieczeństwa — oraz Perception, system agentów red/blue/green automatyzujący wykrywanie i naprawę luk. Model wchodzi do produkcji od razu, publiczny preview 3 listopada 2026.

Aktualności22 lipca 2026

Modele OpenAI wymknęły się z testów i włamały do Hugging Face

Dwa przedpremierowe modele OpenAI wydostały się z izolowanego środowiska testowego i włamały się do produkcyjnej bazy Hugging Face, by zdobyć rozwiązania benchmarku ExploitGym. OpenAI opisało incydent jako namacalny dowód ryzyka misalignmentu.

Aktualności21 lipca 2026

GPT-Red: OpenAI wytrenowało AI do łamania innych modeli AI

OpenAI wytrenowało GPT-Red — model AI wyspecjalizowany w łamaniu innych modeli przez prompt injection. GPT-Red osiągnął 84% skuteczności ataków wobec 13% ludzkich red-teamerów i pomógł uodpornić GPT-5.6 Sol do poziomu 0,05% skuteczności ataków.