Teza, że przyszłość agentowej AI należy do małych modeli językowych (SLM), przestaje być tylko akademicką prowokacją. Zespół NVIDIA Research sformułował ją w pracy z czerwca 2025 roku, zrewidowanej we wrześniu, a rok 2026 przynosi praktyczne potwierdzenia — od otwartego SmolLM3 firmy Hugging Face po model Gemma 3, który Google uruchamia lokalnie na płytce wielkości dłoni.
Najważniejsze w skrócie
- NVIDIA Research (arXiv:2506.02153, czerwiec 2025, rewizja wrzesień 2025) dowodzi, że SLM-y są "wystarczająco mocne, z natury bardziej odpowiednie i koniecznie bardziej ekonomiczne" dla większości wywołań w systemach agentowych
- Hugging Face SmolLM3 to w pełni otwarty model 3 mld parametrów z kontekstem 128 tys. tokenów, obsługą sześciu języków, trybem rozumowania i wywoływaniem narzędzi
- Google Gemma 3 270M (270 mln parametrów) działa w całości na płytce Coral Board — układ Coral NPU na architekturze RISC-V, 2 GB RAM, 1 TOPS, bez chmury
- NVIDIA proponuje algorytm konwersji agenta z dużego modelu na mały oraz architektury heterogeniczne: SLM do rutyny, LLM do najtrudniejszego rozumowania
Od "im większy, tym lepszy" do "wystarczająco dobry"
Przez kilka lat rozwój modeli językowych napędzała jedna zasada: więcej parametrów, więcej danych, więcej mocy obliczeniowej. NVIDIA Research podważa jej uniwersalność. W pracy "Small Language Models are the Future of Agentic AI" autorzy dowodzą, że w systemach agentowych — gdzie model wykonuje wąski, powtarzalny zestaw zadań z niewielką zmiennością — duży model ogólnego przeznaczenia jest zwykle przerostem formy nad treścią. SLM-y są, jak piszą, "wystarczająco mocne, z natury bardziej odpowiednie i koniecznie bardziej ekonomiczne" dla większości wywołań w takich systemach.
Kluczowy jest argument ekonomiczny. Agent nie prowadzi swobodnej rozmowy — parsuje dane, wywołuje narzędzia, formatuje odpowiedzi. Do tego nie potrzeba modelu znającego całą literaturę światową. NVIDIA proponuje konkretny algorytm konwersji: przenoszenie rutynowych wywołań z dużego modelu na wyspecjalizowany mały, oraz architektury heterogeniczne, w których SLM obsługuje codzienną robotę, a LLM jest wołany tylko do najtrudniejszego rozumowania.
SmolLM3: co potrafi otwarty model 3 mld parametrów
Najlepszą ilustracją tego, jak daleko przesunęła się granica, jest SmolLM3 — model wydany przez Hugging Face w lipcu 2025 roku. Ma 3 miliardy parametrów i został wytrenowany na około 11 bilionach tokenów, a mimo skromnego rozmiaru obsługuje kontekst do 128 tysięcy tokenów, sześć języków europejskich oraz dwa tryby pracy: szybką odpowiedź i jawne rozumowanie krok po kroku. Obsługuje też wywoływanie narzędzi, czyli dokładnie to, czego wymaga praca agenta.
Liczby pokazują, gdzie leży punkt równowagi między kosztem a możliwościami. Włączenie trybu rozumowania podnosi wynik na trudnym teście matematycznym AIME 2025 z 9,3 do 36,7 procent — niemal czterokrotnie. W testach ogólnych SmolLM3 wyprzedza modele tej samej klasy, jak Llama-3.2-3B i Qwen2.5-3B, i zbliża się do większych modeli 4-miliardowych. Cały przepis treningowy jest jawny, a model powstał na 384 kartach H100 w 24 dni — ułamek kosztu treningu modelu frontierowego.
Prawdziwa przewaga: model, który mieści się w urządzeniu
Druga siła napędowa to lokalność. Pod koniec maja 2026 roku Google pokazało Coral Board — jednopłytkowy komputer wielkości dłoni, na którym model Gemma 3 270M (270 milionów parametrów) działa w całości na urządzeniu, bez połączenia z chmurą. Sercem płytki jest otwarty układ Coral NPU oparty na architekturze RISC-V, z 2 GB pamięci i wydajnością 1 TOPS. Na demonstracjach podczas Google I/O uruchomiono na niej między innymi tłumaczenie w czasie rzeczywistym i sterowanie głosem. To propozycja dla urządzeń, w których chmura jest nie do przyjęcia: słuchawek, okularów AR, zegarków. Sama rodzina Gemma 3 była projektowana tak, by — jak reklamuje Google — dało się ją uruchomić "na pojedynczym GPU lub TPU".
Czego mały model nie zrobi
Entuzjazm nie znosi jednak fizyki. NVIDIA sama przyznaje, że tam, gdzie liczy się swobodna, ogólna konwersacja, przewaga wciąż leży po stronie dużych modeli — dlatego badacze rekomendują systemy heterogeniczne, a nie zastąpienie LLM-ów w całości. Widać to też w danych SmolLM3: model 4-miliardowy Qwen3-4B zwykle osiąga wyższe wyniki. Mały model trzeba dostroić do konkretnego zadania — jego siłą jest specjalizacja, nie wszechstronność. Kompromis brzmi jasno: niższy koszt, mniejsze opóźnienie i prywatność w zamian za węższy zakres i konieczność dopasowania.
Dlaczego to ważne?
Przesunięcie w stronę małych modeli zmienia ekonomię całej branży. Jeśli znaczną część wywołań w systemach agentowych da się obsłużyć modelem, który mieści się na jednym GPU albo wręcz w urządzeniu użytkownika, koszt utrzymania takich systemów spada o rzędy wielkości, a wraz z nim zależność od wielkich centrów danych i dostawców chmury. Dla firm oznacza to budowanie agentów bez płacenia za każde wywołanie API frontierowego modelu. Dla użytkownika — realną prywatność, bo dane nie opuszczają urządzenia, oraz działanie bez sieci i bez opóźnień drogi do serwera. Otwartość modeli takich jak SmolLM3 dokłada trzeci wymiar: pełną kontrolę i możliwość audytu. To nie zapowiedź końca dużych modeli — te pozostaną niezbędne tam, gdzie liczy się ogólna inteligencja. To raczej dojrzewanie rynku, który zaczyna dobierać rozmiar modelu do zadania, zamiast domyślnie sięgać po największy dostępny.
Co dalej?
- Coral Board z modelem Gemma 3 270M ma trafić do sprzedaży latem 2026 roku, choć Google nie podał jeszcze ceny
- NVIDIA opublikowała otwarte zaproszenie do krytyki swojej tezy i zapowiedziała publikowanie nadsyłanej korespondencji na stronie projektu, więc dyskusja o granicach stosowalności SLM dopiero się rozwija
- Hugging Face udostępniło pełny przepis treningowy SmolLM3 wraz z checkpointami, co obniża próg wejścia dla kolejnych otwartych modeli klasy 3 mld parametrów
Źródła
- NVIDIA Research — Small Language Models are the Future of Agentic AI
- arXiv — Small Language Models are the Future of Agentic AI
- Hugging Face — SmolLM3: smol, multilingual, long-context reasoner
- The Decoder — Google launches a tiny board that runs Gemma 3 locally
