Tag: Prompt injection

Aktualności12 sierpnia 2026

Tryb auto domyślny w Claude Code dla planów Pro, Max i Team

Anthropic ustawia tryb auto jako domyślny w Claude Code na planach Pro, Max i Team od 14 sierpnia 2026. Zamiast pytać o zgodę przy każdej akcji, klasyfikator przepuszcza, blokuje lub szuka bezpieczniejszej alternatywy dla wywołań narzędzi.

Aktualności1 sierpnia 2026

Fundamentalna luka LLM: fałszywy łańcuch myśli omija zabezpieczenia

Badacze pokazali na ICML, że duże modele językowe rozpoznają rolę tekstu po stylu, nie po znacznikach. Spreparowany łańcuch myśli omija zabezpieczenia modeli OpenAI, Anthropic, Alibaba i DeepSeek — a problem może być nierozwiązywalny na poziomie samego modelu.

Aktualności31 lipca 2026

Samoreplikujący się robak prompt injection w Copilot dla Worda

Badacz Håkon Måløy opisał prompt injection, który przez Copilota w Microsoft Word kopiuje ukryte instrukcje do nowych plików — zamieniając je w kolejne nosiciele. Zgłoszony Microsoftowi 144 dni temu, wciąż bez pełnej poprawki.

Aktualności21 lipca 2026

GPT-Red: OpenAI wytrenowało AI do łamania innych modeli AI

OpenAI wytrenowało GPT-Red — model AI wyspecjalizowany w łamaniu innych modeli przez prompt injection. GPT-Red osiągnął 84% skuteczności ataków wobec 13% ludzkich red-teamerów i pomógł uodpornić GPT-5.6 Sol do poziomu 0,05% skuteczności ataków.

Aktualności14 lipca 2026

Context bombing: obrona przed agentami AI za pomocą ich własnych guardrails

Tracebit opracował technikę "context bombing" — umieszczania prompt injections obok sekretów AWS, które wyłączają atakujące agenty AI. W 152 sesjach testowych eskalacja do uprawnień admina spadła z 57% do 5%.

Aktualności10 lipca 2026

HalluSquatting: halucynacje LLM jako droga do botnetów

Badacze opisali HalluSquatting — atak, który wykorzystuje skłonność LLM do halucynowania adresów repozytoriów. Rejestrując przewidywalne, zmyślone nazwy, atakujący może masowo infekować agentów kodowania jak Cursor czy GitHub Copilot.

Aktualności4 lipca 2026

Nowy atak na przeglądarki AI: 2+2=5 wystarczy, by obejść zabezpieczenia

Badacze pokazali, że poinformowanie przeglądarki opartej na LLM o fałszywym fakcie wystarczy, aby model przestał respektować ograniczenia bezpieczeństwa. Atak BioShocking zadziałał na sześciu AI-browserach.