Neocloud buduje i utrzymuje duże klastry akceleratorów (np. NVIDIA H100/H200/Blackwell) połączone szybką siecią o niskich opóźnieniach, z magazynem o wysokiej przepustowości. Moc udostępniana jest klientom jako bare-metal, maszyny wirtualne, Kubernetes lub proste API/kolejki zadań, zwykle z rozliczeniem za godzinę GPU lub rezerwacją pojemności. Stos jest zoptymalizowany pod obciążenia AI (sterowniki, biblioteki, orkiestracja treningu rozproszonego, serwowanie inferencji), a nie pod pełny wachlarz usług korporacyjnych.
Uniwersalni hyperscalerzy bywają drodzy, mają długie kolejki po najnowsze GPU i szeroki, ale nie zawsze zoptymalizowany pod AI stos. Neocloud rozwiązuje problem dostępności i kosztu gęstej mocy obliczeniowej do treningu/inferencji.
Duże pule GPU (np. H100/H200/Blackwell) jako podstawowy zasób.
Oficjalna
InfiniBand/NVLink łączące węzły dla treningu rozproszonego.
Oficjalna
Bare-metal / VM / Kubernetes / API z rozliczeniem za GPU-godzinę.
Oficjalna
Silne uzależnienie od dostaw i cen GPU (głównie NVIDIA).
Zakup GPU finansowany długiem naraża na ryzyko przy spadku popytu.
Węższy zakres usług i certyfikacji niż hyperscalerzy.
Pierwsi dostawcy skupieni na GPU dla ML (m.in. Lambda, CoreWeave).
Gwałtowny popyt na moc GPU wynosi neoclouds do głównego nurtu.
Duże kontrakty i rozbudowa data center (m.in. pod projekty typu Stargate).
Neoclouds są zbudowane wokół gęstych klastrów GPU.
