Nemotron 3.5 Lightning

3.5 Lightning (30B-A3B) · Rodzina: Nemotron

Otwarty model językowo-rozumujący NVIDIA (30B, 3B aktywnych) o hybrydowej architekturze Mamba-2 + MoE + Attention, z kontekstem do 1M tokenów.

✓ Aktywny✓ Publiczny dostęp⚖ Open sourceLLMModel rozumowania📁 Nemotron

Okno kontekstowe

1M (256K na 1× H100)

tokenów

Parametry

30B (3B active)

parametrów

Data premiery

11 sierpnia 2026

🏢NVIDIAProducent

Dostęp:APIDownloadHostedWdrożenie:💻 Lokalnie☁ Cloud📱 Na urządzeniu

Przegląd

Nemotron 3.5 Lightning (NVIDIA-Nemotron-3.5-Lightning-30B-A3B) to otwarty duży model językowy z rodziny NVIDIA Nemotron, trenowany przez NVIDIA Corporation. Wykorzystuje hybrydową architekturę Mixture-of-Experts z naprzemiennymi warstwami Mamba-2 i MoE oraz wybranymi warstwami Attention (implementacja NemotronHForCausalLM). Model ma 30 mld parametrów łącznie i 3 mld parametrów aktywnych.

Został wstępnie wytrenowany na ponad 20 bln tokenów recepturą NVFP4 i zawiera warstwy Multi-Token Prediction (MTP). Obsługuje konfigurowalny tryb rozumowania (enable_thinking) oraz wywoływanie narzędzi. Okno kontekstu sięga 1 mln tokenów (256K na pojedynczym H100 w BF16). Model wydano na licencji OpenMDW-1.1 z otwartymi wagami, danymi treningowymi i recepturami. Dostępny jest w wariantach precyzji BF16 (referencyjny, do dostrajania) oraz NVFP4 (zoptymalizowany pod wdrożenia).

Klasyfikacja

LLMModel rozumowania

Rodzina: Nemotron

Dostęp i wdrożenie

APIPobieranieHostowane

LokalnieChmuraNa urządzeniu

Wagi: Open source

Kluczowe parametry

📏 Kontekst: 1M (256K na 1× H100)

🧩 Parametry: 30B (3B active)

✓ Narzędzia · ✓ Fine-tuning

📥 Wejście: tekst

Specyfikacja techniczna

Okno kontekstowe

1M (256K na 1× H100)

tokenów

Parametry

30B (3B active)

parametrów

Licencja

OpenMDW-1.1

Wymagania sprzętowe

Wdrożenie na pojedynczym GPU: 1× H100 80GB (lub A100 80GB) przy kontekście 256K w BF16. Pełne okno 1M wymaga 8× H100, GB200 lub B200. Wspierane architektury: NVIDIA Blackwell (GB200, B200), Hopper (H100, H200), Ampere (A100).

Funkcje:✓ Używanie narzędzi✓ Fine-tuning

Modalności

⬇ Wejście (Input)

text

⬆ Wyjście (Output)

textcode

Możliwości i zastosowania

Natywne możliwości modelu

Rozumowanie

Zdolność modelu do logicznego wnioskowania i rozwiązywania złożonych problemów.

Kategoria: reasoning

Programowanie

Generowanie, analizowanie i modyfikowanie kodu w wielu językach programowania. Obejmuje pisanie funkcji, debugowanie, refaktoryzację, code review, tworzenie testów. Mierzone benchmarkami takimi jak HumanEval, SWE-bench.

Kategoria: coding

Użycie narzędzi

Zdolność modelu do wywoływania zewnętrznych funkcji, API i narzędzi w trakcie rozmowy: kalkulator, wyszukiwarka, edytor kodu, baza danych. Model decyduje kiedy i jak użyć narzędzia oraz interpretuje jego wynik.

Kategoria: planning

Długi kontekst

Obsługa dużych okien kontekstowych — dziesiątek do setek tysięcy (lub milionów) tokenów wejścia. Umożliwia analizę całych baz kodu, długich dokumentów, wielu równolegle rozmów bez utraty wcześniejszych informacji. GPT-5.1 wspiera 400 000 tokenów.

Kategoria: language

Przestrzeganie instrukcji

Precyzyjne wypełnianie wskazówek zawartych w prompcie: format odpowiedzi, długość, styl, ograniczenia (np. 'odpowiedz w sześciu słowach'). GPT-5.1 znacząco poprawił tę zdolność względem GPT-5.

Kategoria: language

Wielojęzyczność

Kompetencje w wielu językach naturalnych (od kilku do stu+): rozumienie, generowanie, tłumaczenie, code-switching w obrębie jednej rozmowy. Modele frontier obsługują szeroki wachlarz języków ze zbliżoną jakością.

Kategoria: language

Wyniki benchmarków

6 benchmarków

MMLU-Pro

accuracy · harness NeMo Gym

81.94%