Bezpieczeństwo
Latent Correctness Direction (LCD)
2025BadawczyAktualizacja: 22 września 2026Opublikowany
Kierunek w przestrzeni aktywacji modelu skorelowany z poprawnością jego odpowiedzi — pozwala wykrywać i potencjalnie sterować „wiedzą o trafności” zakodowaną w reprezentacjach.
Kluczowa
innowacja
Wskazanie liniowego kierunku „poprawności” zakodowanego w aktywacjach modelu.
Kategoria
Bezpieczeństwo
Poziom abstrakcji
Wzorzec
Poziom operacji
ModelInferencja
Zastosowania
Wykrywanie halucynacjiSzacowanie pewnościSterowanie aktywacjami (steering)
Jak działa
Metodami probingu wyznacza się kierunek w aktywacjach oddzielający odpowiedzi poprawne od błędnych; można go użyć do detekcji lub sterowania.
Rozwiązany problem
Modele często wewnętrznie „wiedzą”, że się mylą, ale ta informacja nie jest wprost dostępna w wyjściu.