NVIDIA Grace Blackwell
NVIDIA Grace Blackwell to platforma obliczeniowa łącząca procesor Grace (architektura ARM, rdzenie Arm Neoverse V2) z układami graficznymi Blackwell. Podstawową jednostką jest superchip GB200, w którym jeden procesor Grace jest sprzężony z dwoma GPU Blackwell przez łącze NVLink-C2C.
Pojedynczy superchip GB200 oferuje 372 GB pamięci GPU HBM3e o przepustowości 16 TB/s oraz do 480 GB pamięci CPU LPDDR5X. Wydajność Tensor Core sięga 40 PFLOPS (NVFP4, sparse), 20 PFLOPS (FP8/FP6, sparse) i 20 POPS (INT8, sparse). GPU komunikują się piątą generacją NVLink o przepustowości 1,8 TB/s na GPU.
Platforma skaluje się do systemów rack-scale: GB200 NVL72 łączy 36 procesorów Grace i 72 GPU Blackwell w jednej domenie NVLink (13,4 TB HBM3e, 130 TB/s NVLink), a mniejszy GB200 NVL4 celuje w HPC i AI dla nauki. Głównymi zastosowaniami są trening i inferencja dużych modeli językowych (w tym mixture-of-experts), HPC oraz centra danych. Istotna także dla „physical AI" i robotyki jako zaplecze obliczeniowe. Zapowiedziana na GTC 18 marca 2024.
Klasyfikacja
Akcelerator AI · pełni rolę: Wnioskowanie AI, Obliczenia wysokiego poziomu.
Do jakiej grupy należy NVIDIA Grace Blackwell i jak jest skonstruowany
Compute Modules to podkategoria komponentów sprzętowych dostarczających moc obliczeniową dla systemów robotycznych. Obejmuje komputery pokładowe, SBC, akceleratory AI, procesory embedded, moduły obliczeniowe GPU/NPU oraz inne jednostki przetwarzające dane z sensorów i wykonujące logikę sterowania. Moduły te są podstawą współczesnych robotów autonomicznych, humanoidalnych i percepcyjnych.
AI Accelerator to wyspecjalizowany komponent sprzętowy zaprojektowany do wydajnego wykonywania obliczeń związanych ze sztuczną inteligencją, w szczególności inferencji sieci neuronowych, przetwarzania wizji komputerowej i analizy danych sensorycznych. W robotyce akceleratory AI są używane do uruchamiania modeli percepcji, rozpoznawania obiektów, segmentacji obrazu, planowania i innych zadań wymagających wysokiej mocy obliczeniowej przy ograniczonych zasobach energetycznych. Mogą występować jako dedykowane układy NPU, TPU, VPU, GPU lub specjalizowane moduły embedded.
Specyfikacja techniczna
Powiązania
Inne części sprzętowe powiązane z NVIDIA Grace Blackwell

Rack-scale, ciekłochłodzony system obliczeniowy oparty na 72 procesorach graficznych NVIDIA Blackwell (B200) i 36 procesorach NVIDIA Grace, przeznaczony do trenowania i wnioskowania dużych modeli AI.
Moduł obliczeniowy (superchip) NVIDIA łączący 2 CPU Grace i 4 GPU Blackwell na jednej płycie serwerowej, z pamięcią koherentną do 1,3 TB, do zbieżnych zadań HPC i AI.

Rack-scale, ciekłochłodzony system obliczeniowy oparty na 72 procesorach graficznych NVIDIA Blackwell Ultra (B300) i 36 procesorach NVIDIA Grace, przeznaczony do wnioskowania i trenowania dużych modeli AI.

Architektura GPU NVIDII do AI (2024) i uklad B200: 208 mld tranzystorow, dwie matryce laczone 10 TB/s, TSMC 4NP, 192 GB HBM3e, 2. gen Transformer Engine (FP4) i 5. gen NVLink; podstawa systemow GB200.