3D Reconstruction
Jak działa
Typowy pipeline pasywny zaczyna od wykrycia i dopasowania cech między obrazami, następnie Structure-from-Motion estymuje pozy kamer i rzadką chmurę punktów (często z optymalizacją bundle adjustment). Multi-View Stereo zagęszcza geometrię do gęstej chmury punktów lub map głębi, które łączy się w siatkę lub inną reprezentację. Metody neuronowe (NeRF) uczą ciągłej funkcji objętościowej mapującej współrzędne i kierunek patrzenia na kolor i gęstość, renderowanej przez volume rendering; 3D Gaussian Splatting reprezentuje scenę zbiorem anizotropowych gaussianów rasteryzowanych w czasie rzeczywistym. Metody aktywne (światło strukturalne, LiDAR, ToF) mierzą głębię bezpośrednio, pomijając etap dopasowania cech.
Rozwiązany problem
Ręczne modelowanie 3D jest czasochłonne i nie skaluje się do rzeczywistych, złożonych scen. Rekonstrukcja 3D automatyzuje tworzenie wiernych modeli geometrii i wyglądu bezpośrednio z obrazów lub pomiarów, umożliwiając cyfrowe odwzorowanie realnego świata na dużą skalę.
Komponenty
Odtwarza pozy kamer i rzadką chmurę punktów 3D z dopasowanych cech na wielu obrazach, zwykle z globalną optymalizacją bundle adjustment.
Na podstawie znanych póz kamer oblicza gęstą geometrię (mapy głębi lub gęstą chmurę punktów), którą łączy w powierzchnię.
Wyznacza głębię dla pikseli z pary lub wielu obrazów albo bezpośrednio z pojedynczego obrazu (depth estimation).
Siatka (mesh), chmura punktów, woksele, SDF lub reprezentacje neuronowe/rasteryzacyjne jak NeRF i 3D Gaussian Splatting.
Oficjalna
Implementacja
Brak wyraźnych cech psuje dopasowanie w SfM/MVS, prowadząc do dziur i artefaktów.
Niedokładne parametry kamer propagują się na całą rekonstrukcję.
Rekonstrukcja z pojedynczej kamery jest określona z dokładnością do skali.
Reprezentacje neuronowe/gaussowskie mogą słabo ekstrapolować poza zaobserwowane ujęcia.
Ewolucja
Formalizacja Structure-from-Motion i geometrii wielowidokowej (Hartley i Zisserman, Multiple View Geometry in Computer Vision).
Ogólnego przeznaczenia potok SfM i MVS (Schönberger i Frahm), który stał się de facto standardem rekonstrukcji z obrazów.
Neuronowe pola promienistości umożliwiły fotorealistyczną syntezę nowych widoków z ciągłej reprezentacji objętościowej.
Rasteryzacja anizotropowych gaussianów dała jakość pól promienistości przy renderowaniu w czasie rzeczywistym.
Hiperparametry (konfigurowalne osie)
Mesh / chmura punktów / woksele / SDF / NeRF / 3D Gaussian Splatting.
Obrazy, wideo, stereo, światło strukturalne, LiDAR/ToF.
Czy pozy/parametry kamer są znane, czy estymowane.
Od pojedynczego obrazu po setki/tysiące ujęć.
Rekonstrukcja rzadka vs gęsta.
Równoległość
Etapy per-piksel/per-punkt i rasteryzacja są silnie równoległe (GPU), natomiast Structure-from-Motion i bundle adjustment są iteracyjne i częściowo sekwencyjne.
Wymagania sprzętowe
Trening i renderowanie NeRF oraz rasteryzacja 3D Gaussian Splatting i MVS są mocno przyspieszane na GPU.
Klasyczne potoki SfM/fotogrametrii mogą działać na CPU, choć wolniej niż na GPU.