NVIDIA Hopper to architektura procesorow graficznych (GPU) klasy data-center, zaprezentowana w marcu 2022 roku na konferencji NVIDIA GTC i nazwana na czesc informatyczki i kontradmiral US Navy Grace Hopper. Uklad H100 oparty na Hopperze jest produkowany w procesie TSMC 4N (klasa 5 nm), liczy okolo 80 miliardow tranzystorow i ma powierzchnie krzemu ok. 814 mm2.
Najwazniejsza innowacja Hoppera jest Transformer Engine - mechanizm, ktory dynamicznie obniza precyzje obliczen (np. z FP16 do szybszego FP8), znaczaco przyspieszajac trening i inferencje duzych modeli jezykowych. Architektura wprowadzila takze nowa generacje NVLink o wiekszej przepustowosci, pamiec HBM3 (do 80 GB i ok. 3 TB/s w H100), rdzenie Tensor nowej generacji, technologie MIG oraz poufne obliczenia (confidential computing).
Hopper napedza kluczowe akceleratory AI NVIDIA: H100 (premiera III kw. 2022), H200 (z pamiecia HBM3e) oraz superukład GH200 Grace Hopper, laczacy GPU H100 z 72-rdzeniowym CPU Grace. Nastepca Hoppera jest architektura Blackwell. Hopper stal sie de facto standardem sprzetowym do trenowania wspolczesnych modeli generatywnej AI w centrach danych.
Akcelerator AI · pełni rolę: Akceleracja AI, Wnioskowanie AI, Obliczenia.
Do jakiej grupy należy NVIDIA Hopper i jak jest skonstruowany
Podkategoria zbiera układy scalone przeznaczone do przyspieszania obliczeń AI w centrach danych: NVIDIA H100/B200, Google TPU, AWS Trainium/Inferentia, Meta MTIA, Groq LPU, Cerebras WSE. Wspólne cechy: pamięć HBM o wysokiej przepustowości, tryby niskiej precyzji (FP16/BF16/FP8/MX8/MX4/INT8/INT4), skalowalność do rack-scale (setki chipów w jednej domenie scale-up), chłodzenie cieczą, integracja z frameworkami ML (PyTorch, JAX, Triton, vLLM). Kontrastuje z hardwareSubcategory.ai-soc-edge-ai-soc — tam kryteria są odwrotne (niski pobór mocy, brak HBM, on-device inferencja).
AI Accelerator to wyspecjalizowany komponent sprzętowy zaprojektowany do wydajnego wykonywania obliczeń związanych ze sztuczną inteligencją, w szczególności inferencji sieci neuronowych, przetwarzania wizji komputerowej i analizy danych sensorycznych. W robotyce akceleratory AI są używane do uruchamiania modeli percepcji, rozpoznawania obiektów, segmentacji obrazu, planowania i innych zadań wymagających wysokiej mocy obliczeniowej przy ograniczonych zasobach energetycznych. Mogą występować jako dedykowane układy NPU, TPU, VPU, GPU lub specjalizowane moduły embedded.
Karta akceleratora AI data-center to klasa konstrukcyjna opisująca budowę wysokowydajnych procesorów obliczeniowych (GPU/akceleratorów) przeznaczonych do montażu w serwerach centrów danych. Charakteryzuje się: form factorem SXM (moduł lutowany do płyty bazowej HGX/DGX) lub dwuslotową kartą PCIe; pamięcią o wysokiej przepustowości (HBM2e/HBM3/HBM3e) zintegrowaną na pakiecie; dedykowanymi łączami GPU-GPU (NVLink, Infinity Fabric) o przepustowości setek GB/s; wysokim TDP (350–1000 W) wymagającym chłodzenia powietrznego lub cieczowego; obsługą wirtualizacji/partycjonowania (MIG) oraz formatów obliczeniowych niskiej precyzji (FP8/FP16/BF16/INT8). Klasa obejmuje konstrukcje takie jak NVIDIA H100/H200/A100, AMD Instinct MI300, Google TPU, Intel Gaudi. Opisuje budowę i konfigurację fizyczną, nie rolę funkcjonalną (tą określa typ komponentu „Akcelerator AI").
Inne części sprzętowe powiązane z NVIDIA Hopper
Akcelerator AI data-center oparty o architekturę NVIDIA Hopper (2022): 80 GB HBM3, 700 W, 4. generacja Tensor Cores z FP8 i Transformer Engine. Standardowy GPU do treningu LLM i hyperskalowej inferencji AI.
Akcelerator AI data-center oparty o architekturę NVIDIA Hopper (2023): pierwszy GPU z pamięcią HBM3e — 141 GB przy 4,8 TB/s. Ta sama moc obliczeniowa co H100, ale niemal dwukrotnie większa i szybsza pamięć dla treningu i inferencji dużych modeli językowych.
Architektura GPU NVIDII do AI (2024) i uklad B200: 208 mld tranzystorow, dwie matryce laczone 10 TB/s, TSMC 4NP, 192 GB HBM3e, 2. gen Transformer Engine (FP4) i 5. gen NVLink; podstawa systemow GB200.
