Qwen2.5-VL-7B-Instruct

Qwen2.5-VL-7B-Instruct to instruktowane wydanie 7-miliardowego modelu z rodziny Qwen2.5-VL opracowanego przez Qwen Team w Alibaba Group. Jest to model klasy VLM (Vision-Language Model), przeznaczony do przetwarzania wielomodalnych danych wejściowych: tekstu, obrazów statycznych i filmów wideo. Wagi modelu są dostępne publicznie na licencji Apache 2.0.

Architektura

Model oparty jest na architekturze Transformer z dołączonym koderem wizyjnym ViT (Vision Transformer). Koder wizyjny zoptymalizowano za pomocą uwagi okienkowej (window attention), SwiGLU i RMSNorm — co przyspiesza trening i inferencję przy zachowaniu wydajności. Do przetwarzania wideo zastosowano dynamiczne próbkowanie FPS (Dynamic FPS Sampling) oraz mRoPE z wyrównaniem bezwzględnego czasu — umożliwia to rozumienie filmów o różnych długościach i prędkościach. Model standardowo obsługuje okno kontekstowe 32 768 tokenów (z możliwością rozszerzenia przez YaRN). Dynamiczna rozdzielczość wejściowa (Dynamic Resolution): obrazy przetwarzane są bez zmiany proporcji, a liczba tokenów wizualnych dostosowuje się do zawartości (domyślnie 4–16 384 tokeny na obraz).

Kluczowe możliwości

Model wyróżnia się w pięciu obszarach: (1) rozumienie dokumentów — analiza wykresów, tabel, faktur, formularzy i skanów z generowaniem ustrukturyzowanego JSON; (2) OCR wielopoziomowe — rozpoznawanie tekstu na zdjęciach scen, w dokumentach i w piśmie odręcznym; (3) rozumienie długich wideo — filmy ponad 1 godziny z precyzyjnym wskazywaniem timestampów zdarzeń; (4) lokalizacja wizualna — wykrywanie obiektów przez bounding box lub punkt z wyjściem JSON; (5) możliwości agentowe — obsługa komputera i telefonu jako agent wizualny (ScreenSpot 84,7, AndroidControl Low_EM 93,7).

Dostępność

Model dostępny jest do pobrania z Hugging Face i ModelScope pod licencją Apache 2.0. Obsługuje biblioteki Transformers, vLLM i SGLang. Do efektywnej inferencji zalecana Flash Attention 2. Model jest formatem BF16 i wymaga GPU z co najmniej ~16 GB VRAM. Dostępne są konfiguracje z dynamicznym min_pixels/max_pixels pozwalające balansować jakość i szybkość inferencji.