Mistral Small 3

Mistral Small 3 to zoptymalizowany pod kątem niskich opóźnień model językowy Mistral AI o 24 miliardach parametrów, udostępniony 30 stycznia 2025 r. na licencji Apache 2.0 (zarówno wersja bazowa, jak i instruowana). Został zaprojektowany do szybkich odpowiedzi konwersacyjnych i niskoopóźnieniowego wywoływania funkcji w automatyzacji zadań.

Model osiąga 81% na benchmarku MMLU i generuje ok. 150 tokenów na sekundę. Według Mistral AI dorównuje jakością znacznie większemu Llama 3.3 70B, będąc przy tym ponad 3× szybszym na tym samym sprzęcie, i jest konkurencyjny względem GPT-4o mini oraz Qwen 32B.

Dzięki kompaktowemu rozmiarowi Mistral Small 3 może działać lokalnie — np. na pojedynczej karcie NVIDIA RTX 4090 lub na MacBooku z 32 GB pamięci — co czyni go dobrym wyborem do wdrożeń lokalnych, dostrajania dziedzinowego i zastosowań wymagających prywatności.

Model jest dostępny z otwartymi wagami (wersje base i instruct) na Hugging Face, przez API Mistral (la Plateforme; mistral-small-latest / mistral-small-2501) oraz u partnerów: Ollama, Kaggle, Together AI, Fireworks AI i IBM watsonx (z zapowiedzianą obsługą m.in. NVIDIA NIM, Amazon SageMaker, Groq, Databricks i Snowflake).