K2 Horizon 7B

K2 Horizon 7B to gęsty (dense) model językowy typu decoder-only z rodziny K2 Horizon opracowanej przez Institute of Foundation Models (IFM). To najmniejszy z „większych" wariantów gęstych rodziny — model o rdzeniu 7B (łącznie ok. 9 mld parametrów), w którym wszystkie parametry aktywowane są dla każdego tokena. W odróżnieniu od rzadkich (sparse) wariantów MoE rodziny nie wykorzystuje routingu ekspertów.

Model obsługuje natywne okno kontekstowe 512K (524 288 tokenów). Domyślnie pracuje z wysokim wysiłkiem rozumowania (reasoning effort „high"), zwracając tok rozumowania osobno od odpowiedzi, obsługuje wywoływanie narzędzi (tool use, parser k2_horizon) i jest przeznaczony do rozumowania, kodowania oraz zadań naukowych i agentowych.

K2 Horizon 7B jest w pełni otwarty zgodnie z zasadą LLM360 — IFM udostępnia dane i recepturę treningową, kod treningowy oraz zasoby ewaluacyjne. Wagi opublikowano na licencji Apache 2.0 w formacie safetensors (BF16). Serwowanie zweryfikowano na pojedynczym GPU z tensor-parallel (TP=1) przez vLLM oraz SGLang (z FlashAttention-3); zalecane co najmniej 32 768 tokenów wyjściowych oraz sampling temperature 1.0, top_p 0.95.