Akcelerator AI · pełni rolę: Akceleracja AI, Wnioskowanie AI, Obliczenia.
Do jakiej grupy należy Cerebras Wafer-Scale Engine i jak jest skonstruowany
Podkategoria zbiera układy scalone przeznaczone do przyspieszania obliczeń AI w centrach danych: NVIDIA H100/B200, Google TPU, AWS Trainium/Inferentia, Meta MTIA, Groq LPU, Cerebras WSE. Wspólne cechy: pamięć HBM o wysokiej przepustowości, tryby niskiej precyzji (FP16/BF16/FP8/MX8/MX4/INT8/INT4), skalowalność do rack-scale (setki chipów w jednej domenie scale-up), chłodzenie cieczą, integracja z frameworkami ML (PyTorch, JAX, Triton, vLLM). Kontrastuje z hardwareSubcategory.ai-soc-edge-ai-soc — tam kryteria są odwrotne (niski pobór mocy, brak HBM, on-device inferencja).
AI Accelerator to wyspecjalizowany komponent sprzętowy zaprojektowany do wydajnego wykonywania obliczeń związanych ze sztuczną inteligencją, w szczególności inferencji sieci neuronowych, przetwarzania wizji komputerowej i analizy danych sensorycznych. W robotyce akceleratory AI są używane do uruchamiania modeli percepcji, rozpoznawania obiektów, segmentacji obrazu, planowania i innych zadań wymagających wysokiej mocy obliczeniowej przy ograniczonych zasobach energetycznych. Mogą występować jako dedykowane układy NPU, TPU, VPU, GPU lub specjalizowane moduły embedded.
Procesor AI wafer-scale to klasa konstrukcyjna, w której zamiast dzielenia wafla na wiele osobnych układów (die) i łączenia ich w systemie, cały wafel krzemowy pozostaje jednym, monolitycznym procesorem o powierzchni rzędu dziesiątek tysięcy mm². Charakteryzuje się: ogromną liczbą rdzeni (setki tysięcy) i tranzystorów (biliony); bardzo dużą pamięcią SRAM zintegrowaną na waflu (dziesiątki GB) o przepustowości rzędu petabajtów na sekundę; wafer-scale fabric łączącym rdzenie o przepustowości petabajtów/s; eliminacją wąskich gardeł komunikacji między chipami oraz specjalnym pakowaniem, chłodzeniem (cieczowym) i zasilaniem. Klasa opisuje budowę fizyczną, nie rolę funkcjonalną (tę określa typ „Akcelerator AI”). Sztandarowym przykładem jest Cerebras Wafer-Scale Engine (WSE-1/2/3).
Około 4 biliony.
Rdzenie zoptymalizowane pod AI.
Wafer-scale interconnect.
Szczytowa (FP16).
Układ napędza system Cerebras CS-3.
Szczytowa (FP16).
Układ napędza system Cerebras CS-3.
Inne części sprzętowe powiązane z Cerebras Wafer-Scale Engine
Cerebras Wafer-Scale Engine (WSE) to procesor AI opracowany przez Cerebras Systems, w którym cały wafel krzemowy stanowi jeden gigantyczny układ scalony — w przeciwieństwie do tradycyjnego podejścia, gdzie wafel jest cięty na wiele mniejszych chipów. Dzięki temu WSE eliminuje wąskie gardła komunikacji między układami i oferuje ogromną pamięć oraz przepustowość bezpośrednio na waflu.
Najnowsza generacja, WSE-3 (2024), jest produkowana w procesie TSMC 5 nm, mierzy 46 225 mm² i zawiera 4 biliony tranzystorów oraz 900 000 rdzeni zoptymalizowanych pod AI. Oferuje 44 GB pamięci SRAM na waflu, 21 PB/s przepustowości pamięci oraz 27 PB/s przepustowości wafer-scale fabric, osiągając 125 petaFLOPS mocy obliczeniowej AI. Według Cerebras to około 19× więcej tranzystorów i 28× więcej mocy niż NVIDIA B200.
WSE napędza systemy Cerebras CS (obecnie CS-3), używane do treningu i szybkiej inferencji dużych modeli językowych. Wcześniejsze generacje to WSE-1 (2019: 1,2 bln tranzystorów, 400 000 rdzeni, 18 GB SRAM) oraz WSE-2 (2021: 2,6 bln tranzystorów, 850 000 rdzeni, 40 GB SRAM, TSMC 7 nm).
