Robocikowo>ROBOCIKOWO
Llama 3.3 70B
Modele AI›Llama

Llama 3.3 70B

3.3 70B · Rodzina: Llama
Otwarty (Llama 3.3 Community License) model jezykowy Meta: 70B parametrow (dense, tylko tekst), wielojezyczny (8 jezykow), kontekst 128K; jakosc porownywalna z Llama 3.1 405B przy znacznie mniejszym rozmiarze.
✓ Aktywny✓ Publiczny dostęp⚖ Open weightsLLMModel używający narzędzi📁 Llama
Okno kontekstowe
128K
tokenów
Parametry
70B (dense)
parametrów
Max output
2048
tokenów
Data premiery
6 grudnia 2024
🏢Meta AIProducent
Dostęp:DownloadAPIHostedWdrożenie:💻 Lokalnie☁ Cloud

Przegląd

Llama 3.3 70B to otwarty, wielojezyczny model jezykowy firmy Meta, wprowadzony 6 grudnia 2024 roku. To model gesty (dense) o 70 mld parametrow, dostrajany instrukcyjnie, przeznaczony wylacznie do tekstu (wejscie i wyjscie tekstowe, generowanie kodu).

Model wykorzystuje zoptymalizowana architekture transformera z Grouped-Query Attention (GQA) dla lepszej skalowalnosci inferencji, obsluguje kontekst 128K tokenow i 8 jezykow (m.in. angielski, niemiecki, francuski, hiszpanski, wloski, portugalski, hindi, tajski). Cechuje sie mocnym rozumowaniem, kodowaniem, wywolywaniem funkcji i wieloetapowymi zadaniami.

Kluczowa zaleta Llama 3.3 70B jest efektywnosc: osiaga jakosc zblizona do znacznie wiekszego Llama 3.1 405B (np. MMLU CoT ~86) przy ulamku kosztu inferencji. Wagi udostepniono na licencji Llama 3.3 Community License (otwarte wagi z ograniczeniami), co pozwala na self-hosting; model dostepny jest m.in. przez Hugging Face oraz API dostawcow (np. OpenRouter). Cutoff wiedzy: grudzien 2023.

Klasyfikacja
LLMModel używający narzędzi
Rodzina: Llama
Zastosowania
KodowanieChatbotyQ&A / Odpowiadanie na pytaniaPraca z wiedząAsystent badawczyPisanie kreatywne
Dostęp i wdrożenie
PobieranieAPIHostowane
LokalnieChmura
Wagi: Open weights
Kluczowe parametry
📏 Kontekst: 128K
🧩 Parametry: 70B (dense)
✓ Narzędzia · ✓ Fine-tuning
📥 Wejście: tekst
Platformy
Hugging Face HubOpenRouter

Specyfikacja techniczna

Okno kontekstowe
128K
tokenów
Parametry
70B (dense)
parametrów
Max output tokens
2048
tokenów na odpowiedź
Knowledge cutoff
1 gru 2023
Data graniczna wiedzy
Licencja
Llama 3.3 Community License
Wymagania sprzętowe
70B dense - do self-hostingu wymaga serwera GPU (np. ~140 GB VRAM w BF16 lub kwantyzacja INT4/INT8 na pojedynczych/podwojnych GPU). Obsluga: Transformers, vLLM, llama.cpp, Ollama.
Funkcje:✓ Używanie narzędzi✓ Fine-tuning
Modalności
⬇ Wejście (Input)
text
⬆ Wyjście (Output)
textcode

Możliwości i zastosowania

Natywne możliwości modelu
Rozumowanie
Zdolność modelu do logicznego wnioskowania i rozwiązywania złożonych problemów.
Kategoria: reasoning
Rozumowanie wieloetapowe
Prowadzenie wieloetapowego toku rozumowania w długich, złożonych zadaniach.
Kategoria: reasoning
Długi kontekst
Obsługa dużych okien kontekstowych — dziesiątek do setek tysięcy (lub milionów) tokenów wejścia. Umożliwia analizę całych baz kodu, długich dokumentów, wielu równolegle rozmów bez utraty wcześniejszych informacji. GPT-5.1 wspiera 400 000 tokenów.
Kategoria: language
Programowanie
Generowanie, analizowanie i modyfikowanie kodu w wielu językach programowania. Obejmuje pisanie funkcji, debugowanie, refaktoryzację, code review, tworzenie testów. Mierzone benchmarkami takimi jak HumanEval, SWE-bench.
Kategoria: coding
Wywoływanie funkcji
Natywne wsparcie dla ustrukturyzowanego wykorzystania narzędzi, umożliwiające przepływy pracy oparte na agentach.
Kategoria: planning
Wyjście strukturyzowane
Generowanie danych w ustrukturyzowanych formatach, np. JSON.
Kategoria: structured_generation
Wielojęzyczność
Kompetencje w wielu językach naturalnych (od kilku do stu+): rozumienie, generowanie, tłumaczenie, code-switching w obrębie jednej rozmowy. Modele frontier obsługują szeroki wachlarz języków ze zbliżoną jakością.
Kategoria: language
Planowanie
Tworzenie i realizacja planów działania dla złożonych zadań.
Kategoria: planning
Modelowanie języka
Zdolność przewidywania kolejnych tokenów i generowania spójnego tekstu w języku naturalnym na podstawie poprzedzającego kontekstu.
Kategoria: language
Dziedziny zastosowań
KodowanieChatbotyQ&A / Odpowiadanie na pytaniaPraca z wiedząAsystent badawczyPisanie kreatywne

Wyniki benchmarków

1 benchmark
MMLU (CoT, 0-shot)
macro_avg / accuracy · Llama 3.3 70B Instruct uzyskal 86,0 w MMLU (CoT), na poziomie Llama 3.1 405B (88,6) i znacznie powyzej Llama 3.1 70B (86,0 wg karty modelu Meta).
86.0%
📅 6 gru 2024
Zrodlo: karta modelu Hugging Face (Meta).

Cennik

Architektura techniczna

Rdzeń architektury (Core Architecture)
TRTransformerGQGQA
Forma modelu (Model Form)
LLLLM
Techniki trenowania (Training Techniques)
ITInstruction Tuning
Powiązane technologie
FCFunction Calling

Wdrożenie i bezpieczeństwo

🔒 Security / Enterprise
✓ Zweryfikowane informacje enterprise

Otwarte wagi (Llama 3.3 Community License) - mozliwy self-hosting / on-premises z pelna kontrola danych. Licencja nakada ograniczenia (m.in. dla podmiotow o >700 mln MAU). Wspiera wywolywanie funkcji i integracje z narzedziami.

Aktualizacja: 31 lip 2026↗ Dokumentacja security

Źródła i powiązane strony