LSI
Jak działa
LSI identyfikuje trzy klasy tarcia w pętli samodoskonalenia AI: (1) wąskość automatyzowalnych badań — agenci dobrze optymalizują pojedyncze metryki (test loss), ale słabo radzą sobie z balansowaniem wielu celów jednocześnie, co jest właściwą pracą najlepszych badaczy; (2) malejące zwroty z równoległych agentów — analogicznie do prawa Amdahla, zwiększanie liczby agentów na zadanie szybko nasyca się, bo wszyscy próbkują z podobnej dystrybucji rozwiązań; (3) ograniczenia zasobów i polityka — alokacja miliardów dolarów na compute pozostaje pod ludzką kontrolą organizacyjną. Każde tarcie przekłada się na „utratę" zysku w cyklu, sprowadzając hipotetyczne wykładnicze RSI do bardziej linearnej trajektorii.
Rozwiązany problem
Narracja o nadciągającym intelligence explosion przez RSI ignoruje empiryczne tarcia w procesie tworzenia modeli AI. LSI dostarcza języka do precyzyjnego mówienia o tych tarciach i prognozowania trajektorii rozwoju bardziej linearnej niż wykładniczej.
Kluczowe mechanizmy
Mocne strony i ograniczenia
Komponenty
Agenci AI dobrze radzą sobie z optymalizacją lokalnych metryk (test loss, single reward), ale nie z balansowaniem wielu konkurencyjnych celów charakterystycznych dla prawdziwych badań.
Dorzucanie kolejnych agentów do problemu daje szybko nasycające się przyspieszenie — wszyscy próbkują z podobnej dystrybucji rozwiązań i są ograniczani przez ludzką supervisję.
Alokacja miliardowych budżetów compute jest decyzją organizacyjną, nie algorytmiczną — AI nie może autonomicznie sięgać po te zasoby.
Im więcej wiemy o inteligencji, tym trudniej jest robić dalszy postęp — prawo malejących zwrotów dla całego systemu badawczego.
Implementacja
Wczesne fazy sigmoidy wyglądają jak wykładnicze. LSI ostrzega, że spektakularne ulepszenia 2023-2026 nie muszą się utrzymać.
Modele scenariuszy RSI zakładające autonomiczny dostęp do miliardowych budżetów compute są nierealistyczne — alokacja pozostaje pod ludzką kontrolą organizacyjną.
Pojedynczy badacz nie jest w stanie sensownie nadzorować setek agentów dziennie — to fundamentalna granica wzrostu produktywności.
Sukcesy AI w optymalizacji lokalnych metryk (Karpathy autoresearch, kernel writing) nie przekładają się automatycznie na zdolność do projektowania całych modeli.
Ewolucja
Paradygmat wykonania
Równoległość
Wymagania sprzętowe
Iteracyjny trening z wewnętrznie generowanymi danymi wymaga GPU zarówno do inferencji (generowania danych) jak i treningu — często na tym samym klastrze.