neurotechnology
Brain-guided Language Models
2026BadawczyOpublikowano: 29 września 2026Aktualizacja: 29 września 2026Opublikowany
Podejście łączące neuroobrazowanie (fMRI) z LLM (metody NARI/NARF), wykraczające poza samą zgodność reprezentacyjną ku odpornemu rozumowaniu.
Kluczowa
innowacja
Paradygmat, w którym dane o aktywności mózgu (fMRI) są sygnałem prowadzącym reprezentacje modelu językowego — nie tylko do pomiaru zgodności, ale do realnej poprawy odporności rozumowania.
Kategoria
neurotechnology
Poziom abstrakcji
Paradygmat
Poziom operacji
ModelTreningPo-trening
Zastosowania
Poprawa odporności rozumowania LLMWykorzystanie fMRI jako sygnału nadzoruBadania NeuroAI i predykcyjności neuronowejSterowanie/dostrajanie reprezentacji (NARI/NARF)
Jak działa
Rejestruje się fMRI podczas zadań rozumowania dedukcyjnego; przez regresję grzbietową buduje odwzorowanie reprezentacja LLM→mózg i wyznacza kierunki zgodne z aktywnością mózgu. Kierunki te stosuje się jako interwencję w inferencji (NARI) lub sygnał nadzoru w dostrajaniu (NARF), a jakość ocenia m.in. neuronową predykcyjnością i testami generalizacji rozumowania.
Rozwiązany problem
Zgodność reprezentacyjna modeli z mózgiem jest opisowa, ale nie gwarantuje lepszego rozumowania. Ten paradygmat zamienia sygnał mózgowy w narzędzie realnie poprawiające odporność LLM.
Komponenty
Dane fMRI z zadań rozumowaniaSygnał prowadzący
Odpowiedzi mózgu (bety GLMSingle) z wybranych regionów.
Metody NARI i NARFRealizacja paradygmatu
Interwencja w inferencji oraz dostrajanie reprezentacji.
Ewolucja
Oryginalny paper · 2026 · Nature Machine Intelligence 2026 · Peking University (pkuxmq)
Beyond representational alignment with brain-guided language models for robust reasoning
Peking University (pkuxmq)
2026
Publikacja „beyond representational alignment" w Nature Machine Intelligence
Punkt przełomowy