Znakowanie wodne AI
Jak działa
Dla tekstu LLM: klucz kryptograficzny i kontekst poprzednich tokenów deterministycznie wyznaczają podział słownika na tokeny „zielone" i „czerwone"; logity tokenów zielonych są delikatnie podbijane, więc model statystycznie częściej je wybiera. Detekcja nie wymaga dostępu do modelu — liczy udział tokenów zielonych i stosuje test statystyczny (p-value). SynthID-Text (Nature, 2024) uogólnia to przez „Tournament sampling". Dla obrazu/audio/wideo znak osadzany jest w reprezentacji sygnału tak, by przetrwał typowe przekształcenia (kompresję, skalowanie, przycięcie). C2PA działa inaczej — nie modyfikuje treści, lecz dołącza podpisany manifest metadanych prowenancji. Kluczowym wyzwaniem jest odporność na ataki usuwające lub maskujące znak (parafrazowanie, edycja, kompresja).
Rozwiązany problem
Treści generowane przez AI są coraz trudniejsze do odróżnienia od ludzkich, co sprzyja dezinformacji, oszustwom, naruszeniom praw autorskich oraz zatruwaniu danych treningowych. Klasyczne detektory post-hoc są zawodne i stronnicze. Watermarking dostarcza sygnał wbudowany w samą treść w momencie jej powstania, co czyni wykrywanie bardziej wiarygodnym.
Komponenty
Podczas dekodowania słownik dzielony jest na tokeny „zielone" i „czerwone"; użycie zielonych jest promowane, co pozostawia statystyczny ślad w tekście.
Algorytm wykrywający sygnaturę (np. udział tokenów zielonych) i zwracający test statystyczny z interpretowalnym p-value, bez dostępu do wag modelu.
System Google DeepMind osadzający niewidoczny znak w treściach AI w wielu modalnościach — obrazie, audio, wideo i tekście.
Otwarty standard dołączający do pliku kryptograficznie podpisany manifest o pochodzeniu i historii edycji — uzupełnia watermarking warstwą metadanych.
Zdolność znaku do przetrwania prób usunięcia lub zamaskowania: parafrazowania tekstu, edycji, kompresji, skalowania czy przycięcia obrazu.
Ewolucja
Utworzenie Coalition for Content Provenance and Authenticity (C2PA) — standardu prowenancji treści opartego na podpisanych metadanych (Content Credentials).
Kirchenbauer i in. publikują „A Watermark for Large Language Models" — metodę zielonych/czerwonych tokenów z wykrywaniem opartym na teście statystycznym.
Debiut SynthID do znakowania obrazów generowanych przez AI, później rozszerzonego na audio, wideo i tekst.
Publikacja „Scalable watermarking for identifying large language model outputs" (Nature) — skalowalny watermarking tekstu LLM oparty na Tournament sampling.
Wejście w życie unijnego AI Act, którego art. 50 wprowadza obowiązki przejrzystości i oznaczania treści generowanych lub zmanipulowanych przez AI.