Framing
Jak działa
Model przetwarza prompt jako ciag tokenow i warunkuje rozklad kolejnych tokenow na calym kontekscie. Framing modyfikuje ten kontekst na kilku osiach: (1) rola/persona — nadanie modelowi tozsamosci ("jestes ekspertem ds. prawa") przesuwa styl i zakres odpowiedzi; (2) perspektywa i nastawienie — proba ujecia problemu z danego punktu widzenia; (3) kontekst/scenariusz — osadzenie zadania w sytuacji (realnej, hipotetycznej lub fikcyjnej); (4) forma pytania — ujecie pozytywne vs negatywne, zalozenia i poziom pewnosci w tresci uzytkownika. Poniewaz dostrajanie bezpieczenstwa (RLHF, filtry) rowniez jest warunkowane kontekstem, zmiana obramowania moze przesunac zachowanie modelu zarowno ku lepszej trafnosci, jak i poza wyuczone bariery (persona bez ograniczen, scenariusz fikcyjny). Framing dziala w czasie inferencji, bez zmiany wag modelu.
Rozwiązany problem
Odpowiedzi modeli jezykowych sa wrazliwe na forme zapytania, a nie wylacznie na jego tresc. Prompt framing nazywa i porzadkuje te dzwignie: pozwala swiadomie sterowac jakoscia, perspektywa i formatem odpowiedzi, a jednoczesnie uswiadamia ryzyko — niespojnosc odpowiedzi przy rownowaznych sformulowaniach oraz obejscia zabezpieczen przez odpowiednie obramowanie.
Implementacja
Semantycznie rownowazne prompty o roznym obramowaniu moga dawac sprzeczne odpowiedzi, co obniza powtarzalnosc.
Obramowanie hipotetyczne, fikcyjne lub roleplay bywa wektorem jailbreaku omijajacym bariery bezpieczenstwa.
Pewne/stronnicze obramowanie twierdzenia uzytkownika sklania model do zgadzania sie z nim zamiast oceny faktow.
Ewolucja
Tversky i Kahneman wykazuja, ze rownowazne opcje ujete jako zysk lub strata prowadza do roznych decyzji — poznawczy pierwowzor framingu.
Prace o jailbreaku pokazuja, ze obramowanie przez persone/roleplay skokowo zwieksza udzial szkodliwych odpowiedzi modeli.
Prace pokazuja, ze ta sama struktura zadania w roznym obramowaniu daje istotnie rozne odpowiedzi modeli.
Hiperparametry (konfigurowalne osie)
Rodzaj ramy nadanej promptowi: rola/persona, perspektywa, scenariusz (realny/hipotetyczny/fikcyjny).
Pozytywne vs negatywne sformulowanie semantycznie rownowaznego pytania.
Ile tla/scenariusza dostarczono wraz z wlasciwym pytaniem.