Qwen2-7B-Instruct

Qwen2 7B · Rodzina: Qwen

Instrukcyjny model językowy 7B z serii Qwen2 (Alibaba), open-weights na licencji Apache 2.0.

✓ Aktywny✓ Publiczny dostęp⚖ Open sourceLLMModel używający narzędzi📁 Qwen

Okno kontekstowe

128K

tokenów

Parametry

7.07B

parametrów

Data premiery

7 czerwca 2024

🏢AlibabaProducent 🔬QwenLab badawczy

Dostęp:APIDownloadHostedWdrożenie:💻 Lokalnie☁ Cloud

Przegląd

Qwen2-7B-Instruct to instrukcyjny (dostrojony do poleceń) duży model językowy z serii Qwen2, opracowanej przez zespół Qwen w Alibaba Cloud i udostępnionej 7 czerwca 2024 roku. Model bazowy ma 7,07 mld parametrów (5,98 mld bez warstw osadzeń). Wykorzystuje architekturę Transformer z aktywacją SwiGLU, biasem QKV w mechanizmie uwagi oraz Grouped Query Attention (GQA), a także ulepszony tokenizer przystosowany do wielu języków i kodu. Model wstępnie trenowano na kontekście 32 768 tokenów, a wariant instrukcyjny — poprzez technikę YaRN — obsługuje kontekst do 131 072 tokenów (128K). Post-trening obejmował nadzorowane dostrajanie (SFT) oraz optymalizację bezpośrednich preferencji (DPO). Model jest wielojęzyczny (angielski, chiński i 27 dodatkowych języków) i udostępniony na otwartej licencji Apache 2.0.

Klasyfikacja

LLMModel używający narzędzi

Rodzina: Qwen

Dostęp i wdrożenie

APIPobieranieHostowane

LokalnieChmura

Wagi: Open source

Kluczowe parametry

📏 Kontekst: 128K

🧩 Parametry: 7.07B

✓ Narzędzia · ✓ Fine-tuning

📥 Wejście: tekst

Specyfikacja techniczna

Okno kontekstowe

128K

tokenów

Parametry

7.07B

parametrów

Licencja

Apache 2.0

Wymagania sprzętowe

~15 GB VRAM w precyzji BF16/FP16; działa na jednym GPU klasy 16 GB (np. z kwantyzacją) lub lokalnie przez llama.cpp/Ollama/vLLM.

Funkcje:✓ Używanie narzędzi✓ Fine-tuning

Modalności

⬇ Wejście (Input)

text

⬆ Wyjście (Output)

textcode

Możliwości i zastosowania

Natywne możliwości modelu

Modelowanie języka

Zdolność przewidywania kolejnych tokenów i generowania spójnego tekstu w języku naturalnym na podstawie poprzedzającego kontekstu.

Kategoria: language

Przestrzeganie instrukcji

Precyzyjne wypełnianie wskazówek zawartych w prompcie: format odpowiedzi, długość, styl, ograniczenia (np. 'odpowiedz w sześciu słowach'). GPT-5.1 znacząco poprawił tę zdolność względem GPT-5.

Kategoria: language

Programowanie

Generowanie, analizowanie i modyfikowanie kodu w wielu językach programowania. Obejmuje pisanie funkcji, debugowanie, refaktoryzację, code review, tworzenie testów. Mierzone benchmarkami takimi jak HumanEval, SWE-bench.

Kategoria: coding

Rozumowanie matematyczne

Zdolność modelu do rozwiązywania zadań matematycznych wymagających wieloetapowego rozumowania — równania, dowody, kombinatoryka, geometria, rachunek różniczkowy, zadania konkursowe.

Kategoria: reasoning

Wielojęzyczność

Kompetencje w wielu językach naturalnych (od kilku do stu+): rozumienie, generowanie, tłumaczenie, code-switching w obrębie jednej rozmowy. Modele frontier obsługują szeroki wachlarz języków ze zbliżoną jakością.

Kategoria: language

Długi kontekst

Obsługa dużych okien kontekstowych — dziesiątek do setek tysięcy (lub milionów) tokenów wejścia. Umożliwia analizę całych baz kodu, długich dokumentów, wielu równolegle rozmów bez utraty wcześniejszych informacji. GPT-5.1 wspiera 400 000 tokenów.

Kategoria: language

Użycie narzędzi

Zdolność modelu do wywoływania zewnętrznych funkcji, API i narzędzi w trakcie rozmowy: kalkulator, wyszukiwarka, edytor kodu, baza danych. Model decyduje kiedy i jak użyć narzędzia oraz interpretuje jego wynik.

Kategoria: planning

Wyniki benchmarków

7 benchmarków

MMLU

accuracy

70.5