NVIDIA TensorRT to zestaw narzedzi (SDK) oraz runtime optymalizujacy inferencje wytrenowanych modeli glebokiego uczenia na GPU NVIDIA. Przyjmuje modele z formatow ONNX, PyTorch i TensorFlow i kompiluje je do zoptymalizowanych silnikow inferencyjnych o niskiej latencji i wysokiej przepustowosci.
Optymalizacje obejmuja kwantyzacje (INT8, FP8, FP16), fuzje warstw i tensorow oraz automatyczny dobor kerneli. Biblioteka udostepnia API C++ i Python, obsluguje GPU centrow danych, stacje robocze oraz platformy wbudowane, takie jak NVIDIA Jetson i DriveOS. Rdzen SDK jest zamkniety, natomiast komponenty open source (wtyczki, parser ONNX, przyklady) sa publikowane na GitHub na licencji Apache 2.0. Pierwsze wydanie mialo miejsce w 2017 roku.
SDK (Software Development Kit) to zestaw bibliotek, interfejsów, narzędzi i dokumentacji przeznaczonych do tworzenia aplikacji oraz integracji z konkretnym sprzętem, platformą lub usługą. W robotyce SDK często udostępnia dostęp do sterowania urządzeniem, telemetrii, sensorów, konfiguracji i funkcji wykonawczych.
Runtime to środowisko lub warstwa uruchomieniowa wykorzystywana do wykonywania kodu, ładowania bibliotek, obsługi zależności i działania aplikacji lub usług w czasie rzeczywistym albo w czasie pracy systemu.
C++ to język programowania szeroko wykorzystywany w robotyce, systemach embedded, middleware, sterowaniu i przetwarzaniu danych, szczególnie tam, gdzie istotna jest wydajność oraz bliska integracja ze sprzętem.
Python to wysokopoziomowy język programowania szeroko stosowany w robotyce, AI, computer vision, automatyzacji, testach i szybkiej integracji komponentów sprzętowych oraz software'owych.
Rodzina otwartych systemów operacyjnych opartych na jądrze Linux, powszechna na serwerach, w chmurze i w robotyce.
Windows to rodzina systemów operacyjnych Microsoft wykorzystywana w środowiskach desktopowych, developerskich i integracyjnych. W robotyce występuje głównie jako środowisko narzędziowe, konfiguracyjne lub developerskie.
JetPack Linux oznacza środowisko systemowe i software'owe dla platform NVIDIA Jetson, wykorzystywane do uruchamiania aplikacji AI, computer vision i robotyki edge. W praktyce bazuje na Linuxie i pakietach NVIDIA dla Jetson.
QNX Neutrino — microkernel RTOS BlackBerry QNX z POSIX API. Dominujący w ADAS / infotainment automotive (235+ mln pojazdów) i robotyce safety-critical.
Wymaga zgodnej wersji CUDA Toolkit (linia CUDA 12.x).
Python Package Index – pip install.
Oficjalny menedżer pakietów systemu Debian i jego pochodnych (Ubuntu, Linux Mint, Raspberry Pi OS, NVIDIA JetPack OS). Pakiety w formacie .deb instalowane przez narzędzia apt, apt-get lub dpkg. Dominujący sposób dystrybucji oprogramowania robotycznego w ekosystemie ROS – wszystkie oficjalne pakiety ROS 1 i ROS 2 są dystrybucowane przez apt z repozytorium packages.ros.org. Instalacja pakietu ROS 2: 'sudo apt install ros-humble-<package-name>'. Zarządzanie zależnościami automatyczne przez rosdep (ROS dependency manager) korzystający z apt jako backend dla platform Ubuntu/Debian. Pakiety binarne prekompilowane dla konkretnej architektury (x86_64, aarch64, arm32) i wersji Ubuntu – brak konieczności kompilacji ze źródeł. Repozytoria PPA (Personal Package Archive) umożliwiają dystrybucję własnych pakietów deb przez Launchpad (Ubuntu) bez konieczności włączenia do oficjalnego rejestru. Stosowany na NVIDIA Jetson (JetPack oparty na Ubuntu), Raspberry Pi OS i większości platform Linux używanych w robotyce. Wymaga systemu operacyjnego z rodziny Debian.
Specjalizowany rejestr kontenerów NVIDIA NGC (NVIDIA GPU Cloud – ngc.nvidia.com) zawierający optymalizowane obrazy dla platform NVIDIA: Jetson (aarch64) i x86_64 z GPU. Dystrybuuje oficjalne kontenery Isaac ROS (GPU-accelerated Computer Vision dla ROS 2), Isaac Sim (symulator robotyczny oparty na Omniverse), Isaac Lab (framework trenowania RL), TensorRT, CUDA, cuDNN i inne biblioteki NVIDIA. Kontenery NGC są prebuildowane i zoptymalizowane dla konkretnych wersji JetPack (np. JetPack 6.x / CUDA 12.x na Jetson AGX Orin) – zapewniają pełne wsparcie GPU bez ręcznej konfiguracji sterowników. Wymagana bezpłatna rejestracja na ngc.nvidia.com i logowanie przez 'docker login nvcr.io'. Isaac ROS containers: 'nvcr.io/nvidia/isaac/ros:humble-isaac-ros-common-aarch64' dla Jetson. Szczególnie ważny dla: perception pipeline opartych na GPU (stereo depth, object detection, pose estimation), Isaac Manipulator, Isaac Perceptor i innych gotowych rozwiązań NVIDIA dla robotyki. Kontenery testowane i certyfikowane przez NVIDIA dla konkretnych platform sprzętowych.
64-bitowa architektura procesora wywodząca się z rodziny x86, opracowana przez AMD (jako AMD64) i zaadoptowana przez Intel (jako Intel 64 / EM64T). Dominująca architektura w komputerach osobistych, serwerach, stacjach roboczych i komputerach przemysłowych. W robotyce stosowana jako główna platforma obliczeniowa dla: stacji operatorskich i komputerów deweloperskich (Ubuntu 22.04/24.04 x86_64), serwerów fleet management i cloud robotics, symulatorów (Gazebo, Isaac Sim wymagają x86_64 z GPU NVIDIA dla pełnej wydajności), komputerów pokładowych robotów mobilnych wyższej klasy (Intel NUC, mini-PC przemysłowe jak Nuvo, OnLogic). Oficjalne wsparcie ROS 2 dla x86_64 jest tier-1 – wszystkie dystrybucje ROS 2 (Humble, Jazzy, Kilted) są w pełni wspierane i testowane. Pakiety apt dostępne przez packages.ros.org dla Ubuntu x86_64. Dominuje w środowiskach deweloperskich i symulacyjnych. Na robotach mobilnych i humanoidach x86_64 jest stosowane gdy wymagana jest wysoka moc obliczeniowa (np. Intel Core Ultra, AMD Ryzen Embedded) bez ograniczeń energetycznych typowych dla ARM. Przykłady hardware: Intel NUC 13 Pro, AMD Ryzen Embedded V2000, Advantech MIC-770.
ARM 64-bit – NVIDIA Jetson, Raspberry Pi 4/5, Apple Silicon.
Architektura obliczeniowa NVIDIA CUDA (Compute Unified Device Architecture) na platformie x86_64 – GPU NVIDIA jako koprocesor dla równoległych obliczeń. Nie jest samodzielną architekturą CPU, lecz dodatkowym wymaganiem sprzętowym dla oprogramowania korzystającego z akceleracji GPU. W robotyce kluczowa dla: trenowania modeli foundation i VLA (NVIDIA A100, H100, RTX 4090 na x86_64 serwerach/stacjach), inference modeli AI w symulatora (Isaac Sim wymaga CUDA GPU na x86_64), perception pipeline z akceleracją GPU (CUDA-accelerated stereo depth, optical flow, object detection), generowania syntetycznych datasetów (Omniverse Replicator). Wymagania: CUDA Toolkit (12.x dla najnowszych modeli), cuDNN, TensorRT dla optymalizowanego inference. NVIDIA Isaac ROS na x86_64 wymaga GPU NVIDIA z CUDA 12.x. Frameworki ML: PyTorch (CUDA backend), TensorFlow (CUDA/cuDNN), JAX (XLA + CUDA). Specyficzne wersje CUDA wymagane przez konkretne oprogramowanie – np. Isaac Sim 4.x wymaga CUDA 12.3+. Ograniczenia: wysokie wymagania energetyczne (GPU klasy datacenter: 300–700W), koszty sprzętu, brak mobilności. Środowisko deweloperskie i treningowe, nie deployment na robocie.
Specjalizowana platforma obliczeniowa NVIDIA Jetson oparta na architekturze AArch64 z zintegrowanym GPU NVIDIA (architektura Ampere w Orin, Maxwell/Pascal/Volta w starszych modułach) i akceleratorem DLA (Deep Learning Accelerator). JetPack SDK: kompletny stack software dla Jetson obejmujący L4T (Linux for Tegra – Ubuntu-based OS), CUDA, cuDNN, TensorRT, VPI (Vision Programming Interface), Multimedia API. Moduły Jetson Orin: AGX Orin (12-core Cortex-A78AE, Ampere GPU 2048 CUDA cores, 64 GB RAM, TDP 15–60W), Orin NX 16GB (8-core, 1024 CUDA cores, 16 GB RAM, TDP 10–25W – używany w Unitree G1), Orin Nano (6-core, 1024 CUDA cores, 8 GB RAM, TDP 7–15W). Isaac ROS: oficjalne GPU-accelerated pakiety ROS 2 dla Jetson, dystrybuowane przez NVIDIA NGC Container Registry. Wsparcie ROS 2: tier-1 dla aarch64 Ubuntu 22.04 (Humble) i Ubuntu 24.04 (Jazzy) na JetPack 5.x/6.x. Kluczowa platforma dla robotyki z wymaganiami AI: perception pipeline (stereo depth, object detection, pose estimation), SLAM, VLA inference na edge. Przykłady wdrożeń: Unitree G1 (Orin NX 16GB jako high-level compute), Boston Dynamics (wybrane produkty), drony autonomiczne (Skydio), roboty AMR wymagające edge AI.
Rodzina licencji: Własnościowa – komercyjna
Domyślny status prawny oprogramowania bez jawnie określonej licencji – wszystkie prawa zastrzeżone przez właściciela praw autorskich. Użycie, modyfikacja i dystrybucja są zabronione bez pisemnej zgody właściciela. Nie jest licencją w ścisłym sensie, lecz brakiem licencji – kod bez pliku LICENSE jest domyślnie All Rights Reserved.
Ważna informacja dla edytorów: oprogramowanie bez jawnego pliku licencji jest automatycznie All Rights Reserved i nie może być legalnie używane, modyfikowane ani dystrybuowane. Producenci robotów powinni zawsze jawnie określać licencję. Redaktorzy Robocikowo powinni flagować wpisy bez określonej licencji i kontaktować się z producentem w celu wyjaśnienia.
Rodzina licencji: Licencja permisywna
Permissive licencja open source opracowana przez Apache Software Foundation. Zawiera jawne udzielenie praw patentowych przez kontrybutorów (patent grant) oraz klauzulę retaliation (utrata licencji przy pozwie patentowym). Wymaga zachowania tekstu licencji, NOTICE file i informacji o zmianach w modyfikowanych plikach.
Oficjalna licencja Open Robotics dla rdzenia ROS 2 i większości pakietów tier-1. Standard de facto dla oprogramowania robotycznego open source. Klauzula patentowa chroni użytkowników przed pozwami ze strony kontrybutorów – preferowana nad MIT w projektach korporacyjnych. Kompatybilna z GPL v3 (ale nie GPL v2).
Brak historii wersji.
