Otwarty (MIT) maly model jezykowy Microsoftu: 14B parametrow (dense, decoder-only), tylko tekst, kontekst 16K; trenowany m.in. na danych syntetycznych, mocny w rozumowaniu, matematyce i kodzie.
Okno kontekstowe
16K
tokenów
Parametry
14B (dense, decoder-only)
parametrów
Data premiery
12 grudnia 2024
Dostęp:DownloadAPIHostedWdrożenie:💻 Lokalnie☁ Cloud
Przegląd
Dostęp i wdrożenie
PobieranieAPIHostowane
LokalnieChmura
Wagi: Open source
Kluczowe parametry
📏 Kontekst: 16K
🧩 Parametry: 14B (dense, decoder-only)
✓ Fine-tuning
📥 Wejście: tekst
Platformy
Specyfikacja techniczna
Okno kontekstowe
16K
tokenów
Parametry
14B (dense, decoder-only)
parametrów
Licencja
MIT
Wymagania sprzętowe
14B - self-hosting na pojedynczym GPU (~28 GB VRAM w BF16 lub kwantyzacja na mniejszych GPU). Obsluga: Transformers, vLLM, llama.cpp, Ollama. Trening: 1920x H100-80G, 21 dni.
Funkcje:✓ Fine-tuning
Modalności
⬇ Wejście (Input)
text
⬆ Wyjście (Output)
textcode
Możliwości i zastosowania
Natywne możliwości modelu
Rozumowanie
Zdolność modelu do logicznego wnioskowania i rozwiązywania złożonych problemów.
Kategoria: reasoning
Rozumowanie wieloetapowe
Prowadzenie wieloetapowego toku rozumowania w długich, złożonych zadaniach.
Kategoria: reasoning
Rozumowanie matematyczne
Zdolność modelu do rozwiązywania zadań matematycznych wymagających wieloetapowego rozumowania — równania, dowody, kombinatoryka, geometria, rachunek różniczkowy, zadania konkursowe.
Kategoria: reasoning
Programowanie
Generowanie, analizowanie i modyfikowanie kodu w wielu językach programowania. Obejmuje pisanie funkcji, debugowanie, refaktoryzację, code review, tworzenie testów. Mierzone benchmarkami takimi jak HumanEval, SWE-bench.
Kategoria: coding
Wyjście strukturyzowane
Generowanie danych w ustrukturyzowanych formatach, np. JSON.
Kategoria: structured_generation
Modelowanie języka
Zdolność przewidywania kolejnych tokenów i generowania spójnego tekstu w języku naturalnym na podstawie poprzedzającego kontekstu.
Kategoria: language
Dziedziny zastosowań
Cennik
Architektura techniczna
Rdzeń architektury (Core Architecture)
Forma modelu (Model Form)
Techniki trenowania (Training Techniques)
Wdrożenie i bezpieczeństwo
☁ Dostępny na platformach
🔒 Security / Enterprise
✓ Zweryfikowane informacje enterprise
Model open-source na licencji MIT - pelna swoboda self-hostingu / on-premises z kontrola danych. Dostepny takze w Azure AI Foundry z kontrolami bezpieczenstwa Microsoft/Azure.
Aktualizacja: 31 lip 2026↗ Dokumentacja security
