TOPS wyprowadza się ze specyfikacji sprzętowej akceleratora, nie z pomiaru. Podstawowa formuła to: TOPS = (liczba jednostek MAC × częstotliwość zegara × 2) / 10^12, gdzie mnożnik 2 wynika z tego, że każda operacja MAC obejmuje jedno mnożenie i jedno dodawanie. Zwiększenie liczby jednostek MAC lub taktowania podnosi TOPS. Ponieważ jednostki obliczeniowe przetwarzają dane o niższej precyzji szybciej (np. dwa razy więcej operacji INT4 niż INT8 na cykl), wartość TOPS rośnie przy obniżaniu precyzji. Techniki rzadkości (structured sparsity) pozwalają pomijać zerowe wagi, przez co producenci raportują dodatkowo 'sparse TOPS'. Realna wydajność inferencji zależy jednak nie tylko od TOPS, ale też od przepustowości pamięci, rozmiaru modelu i efektywności wykorzystania jednostek, dlatego szczytowy TOPS jest górnym ograniczeniem, a nie gwarancją.
Rynek akceleratorów AI potrzebował jednej, łatwej do zakomunikowania liczby opisującej surową moc obliczeniową układu inferencyjnego, aby porównywać sprzęt i szacować, czy podoła danemu modelowi. TOPS spełnia tę rolę, lecz jednocześnie ujawnia problem: bez podania precyzji (INT8/INT4/FP) i warunków (sparsity) pojedyncza liczba bywa myląca i nie odzwierciedla realnej wydajności.
