05·Kiedy reasoning zawodzi — pułapki CoT i granice self-correction

Wprowadzenie

Chain-of-Thought i Tree of Thoughts nie są niezawodne — modele popełniają charakterystyczne błędy: fabrykują przekonujące rationale dla błędnych wniosków, ulegają błędom kompozycji, mają trouble z negacją i nie potrafią skutecznie korygować własnych błędów bez zewnętrznego sygnału. Ta lekcja kataloguje najważniejsze pułapki CoT, zjawisko "unfaithful reasoning" oraz granice samokorekcji — by developer wiedział kiedy reasoning jest ryzykownym narzędziem.