Podkategoria obejmująca dedykowane akceleratory AI (ASIC, GPU, XPU) zaprojektowane do pracy w skali centrum danych — trening i inferencja dużych modeli fundamentalnych, systemów rekomendacyjnych i generatywnych. Przeciwieństwo edge-AI SoC.
Podkategoria zbiera układy scalone przeznaczone do przyspieszania obliczeń AI w centrach danych: NVIDIA H100/B200, Google TPU, AWS Trainium/Inferentia, Meta MTIA, Groq LPU, Cerebras WSE. Wspólne cechy: pamięć HBM o wysokiej przepustowości, tryby niskiej precyzji (FP16/BF16/FP8/MX8/MX4/INT8/INT4), skalowalność do rack-scale (setki chipów w jednej domenie scale-up), chłodzenie cieczą, integracja z frameworkami ML (PyTorch, JAX, Triton, vLLM). Kontrastuje z hardwareSubcategory.ai-soc-edge-ai-soc — tam kryteria są odwrotne (niski pobór mocy, brak HBM, on-device inferencja).
Największy procesor AI na świecie firmy Cerebras — cały wafel krzemowy jako jeden układ. WSE-3 (2024): 4 bln tranzystorów, 900 000 rdzeni, 125 PFLOPS.
Dedykowany akcelerator AI IBM (SoC) na karcie PCIe do inferencji generatywnej i agentowej AI na mainframe'ach IBM Z (z17), LinuxONE 5 i serwerach Power11.
Rodzina autorskich chipów AI Mety (6 generacji: 100, 200, 300, 400, 450, 500) rozwijana z Broadcomem. Architektura chipletowa, ~6 miesięcy cykl, PyTorch-native, setki tysięcy chipów w produkcji.
NVIDIA Hopper to architektura GPU data-center (2022) nazwana na czesc Grace Hopper. Wprowadzila Transformer Engine i precyzje FP8; napedza akceleratory H100, H200 oraz GH200 Grace Hopper. Poprzednik architektury Blackwell.
TPU (Tensor Processing Unit) to autorski akcelerator AI (ASIC) Google do uczenia maszynowego, oparty na architekturze tablicy systolicznej (MXU, bfloat16). Dostepny w chmurze Google Cloud; wykorzystywany m.in. do trenowania modeli Gemini.
