Thore Graepel, kierownik katedry uczenia maszynowego na University College London i wcześniej członek zespołu AlphaGo w DeepMind, opublikował 2 października 2026 w MIT Technology Review tekst z jedną tezą: dzisiejsze modele językowe nie rozumują. Punktem odniesienia jest ruch 37 AlphaGo — zagrany nie z intuicji, lecz z jawnego przeszukiwania.
Najważniejsze w skrócie
- Tekst ukazał się 2 października 2026 w MIT Technology Review
- Graepel odszedł z Google DeepMind, by szukać innego podejścia do rozumowania maszynowego
- Trzy zarzuty: brak trwałego stanu epistemicznego, zrośnięcie wiedzy z rozumowaniem w wagach, racjonalizacja po fakcie
- Ruch 37 w drugiej partii z Lee Sedolem miał ok. 1 na 10 tys. szans na to, że zagrałby go człowiek
- Propozycja: rozumowanie jako ciąg operacji zmieniających jawny stan epistemiczny
Ruch 37 nie był przeczuciem
Rozbicie na dwa tryby jest tu kluczowe. Sieć polityki?Sieć polityki: Model, który dla danej sytuacji podpowiada rozkład prawdopodobnych ruchów. W AlphaGo generowała kandydatów do dalszej analizy. AlphaGo podsuwała kandydatów na ruch — szybkie, intuicyjne dopasowanie wzorców, czyli System 1?System 1: Szybkie, automatyczne myślenie w podziale Daniela Kahnemana. System 2 to myślenie wolne i deliberacyjne. w ujęciu Daniela Kahnemana. Deliberację dostarczało przeszukiwanie drzewa gry, konfrontujące te przeczucia z możliwymi ruchami i kontrruchami. Łańcuch myśli rozciąga pierwszy tryb, ale nie dodaje drugiego.
Trzy zarzuty wobec chain-of-thought
| Zarzut | Na czym polega | Konsekwencja |
|---|---|---|
| Brak jawnego stanu | Model nie prowadzi otwartej księgi hipotez, poziomów ufności, dowodów i pytań bez odpowiedzi | Nie da się sprawdzić, co uznał za ustalone |
| Wiedza zrośnięta z rozumowaniem | Jedno i drugie jest splecione w wagach sieci | Nie da się podmienić faktów bez ruszania wnioskowania |
| Racjonalizacja po fakcie | Uzasadnienie powstaje po ustaleniu odpowiedzi | Ślad rozumowania przestaje być dowodem |
Ten ostatni punkt ma twarde potwierdzenie. W pracy na arXiv o czternastu modelach rozumujących, trenowanych nagrodą za wynik końcowy, łańcuchy myśli okazały się w większości nieczytelne, a wymuszenie korzystania wyłącznie ze zrozumiałych fragmentów obniżyło dokładność o 53%.
Co zamiast dalszego skalowania
Zamiast rozbudowywać System 1, Graepel proponuje systemy utrzymujące jawny stan epistemiczny?Stan epistemiczny: Aktualizowany zapis tego, co system uznaje za ustalone, wątpliwe, wykluczone i otwarte. Bliżej notatnika śledczego niż ciągu zdań..
Jawny stan epistemiczny to cztery kubełki, które system aktualizuje w trakcie rozumowania:
Rozumowanie staje się ciągiem ruchów redukujących niepewność, z dostępem do narzędzi przez API i audytowalnym śladem. Argumentem za są medycyna i nauka, gdzie stawka wyklucza niesprawdzalne uzasadnienia.
Dlaczego to ważne?
Stanowisko jest mocne, bo nie opiera się na benchmarkach, lecz na architekturze. Jeśli rozumowanie wymaga odrębnego, jawnego stanu, to żadna ilość danych ani parametrów nie domknie luki, a obecna ścieżka rozwoju jest kosztownym objazdem. Teza czeka na rozstrzygnięcie empiryczne, ale przesuwa pytanie z „jak duży model" na „jaka struktura". Dla rynku oznacza to, że przewaga może wynikać z projektu systemu, a nie z rozmiaru modelu.
Co dalej?
- Graepel odszedł z Google DeepMind, by rozwijać alternatywne podejście do rozumowania maszynowego
- Jeśli łańcuchy myśli pozostaną nieczytelne, nadzór nad modelami — ludzki i automatyczny — straci podstawę, na co wskazuje praca o czternastu modelach rozumujących
Źródła
- MIT Technology Review — Don't be fooled—LLMs don't reason
- arXiv — Reasoning Models Sometimes Output Illegible Chains of Thought
