Apple Neural Engine to seria akceleratorów AI (NPU) projektowanych przez Apple, zintegrowanych bezpośrednio jako blok wewnątrz układów SoC z serii A i M. Pierwsza wersja pojawiła się we wrześniu 2017 roku w chipie A11 Bionic (iPhone 8, iPhone 8 Plus, iPhone X). W 2020 roku Neural Engine trafił także do chipów M-series dla komputerów Mac, począwszy od M1. Każdy chip A-series i M-series wypuszczony po 2017 roku zawiera Neural Engine.
Architektura Neural Engine wywodzi się bezpośrednio z prac nad zamkniętym programem Project Titan — autonomicznym samochodem Apple. Ruslan Salakhutdinov (zatrudniony w 2017 z Carnegie Mellon jako dyrektor ds. AI) zaprojektował układ zdolny do przetwarzania danych z czujników samochodu w czasie rzeczywistym, na urządzeniu, bez przesyłania wrażliwych danych do chmury. Samochód nigdy nie trafił do produkcji, ale opracowana wtedy architektura obliczeniowa stała się fundamentem strategii on-device AI Apple.
Wydajność rośnie z każdą generacją. W chipie M3 Neural Engine osiąga 18 bilionów operacji na sekundę (TOPS), a w M4 — 38 TOPS (ponad dwukrotny wzrost). Kolejny znaczący skok zapowiadany jest z chipem serwerowym M7 Ultra (planowanym na H1 2027), który ma bazować na znacząco rozbudowanym Neural Engine i obsługiwać do 1,5 TB pamięci RAM.
Neural Engine zasila kluczowe funkcje AI ekosystemu Apple: rozpoznawanie twarzy Face ID, asystenta głosowego Siri, computational photography (Smart HDR, Night Mode), efekty AR oraz — od 2024 roku — pełny pakiet Apple Intelligence (Image Playground, Writing Tools, ulepszone Siri). Programiści uzyskują dostęp przez framework Core ML, który automatycznie kieruje modele ML na najbardziej efektywny akcelerator (Neural Engine, GPU lub CPU).
Kluczowe zalety architektury: wysoka efektywność energetyczna (istotne w urządzeniach mobilnych), przetwarzanie on-device (dane biometryczne i głosowe nie opuszczają urządzenia, wzmacniając prywatność) oraz ścisła integracja z zunifikowaną pamięcią SoC — CPU, GPU i Neural Engine współdzielą tę samą pulę RAM, co eliminuje wąskie gardło transferu danych obecne w tradycyjnych architekturach x86 z osobną VRAM.
AI SoC / Edge AI SoC · pełni rolę: Akceleracja AI, Wnioskowanie AI, Obliczenia, Przetwarzanie wizji komputerowej.
Do jakiej grupy należy Apple Neural Engine i jak jest skonstruowany
Obejmuje zintegrowane układy System-on-Chip stosowane jako centralne jednostki obliczeniowe w systemach embedded, robotyce, AIoT i urządzeniach edge AI. W tej schemie parentCategory ustawione jest na 'other', ponieważ enum parentCategory nie zawiera kategorii compute.
Klasa konstrukcyjna komponentów typu NPU (Neural Processing Unit) zaimplementowanych jako blok wewnątrz większego SoC. W przeciwieństwie do samodzielnych kart akceleratorów AI (typu data-center) lub dedykowanych chipów NPU, on-die NPU block dzieli krzem z CPU i GPU, korzysta ze zunifikowanej pamięci pakietu SoC i jest sprzedawany wyłącznie jako część produktu-nadrzędnego, nie jako osobny komponent. Typowi przedstawiciele: Apple Neural Engine w A/M-series, Qualcomm Hexagon NPU, Google Tensor TPU (mobile).
Inne części sprzętowe powiązane z Apple Neural Engine
