Uczenie aktywne działa w pętli. (1) Model bazowy jest trenowany na małym początkowym zbiorze oznaczonym (seed set). (2) Strategia zapytań ocenia informatywność przykładów nieoznaczonych za pomocą funkcji użyteczności — np. niepewności predykcji (najmniejsza pewność, margines, entropia), niezgodności komitetu modeli (query-by-committee), oczekiwanej zmiany gradientu/modelu, oczekiwanej redukcji błędu lub wariancji, ewentualnie ważonej gęstością/różnorodnością, by unikać wybierania podobnych przykładów w partii. (3) Najbardziej informatywne przykłady (pojedynczo lub w partii o rozmiarze B) są przekazywane do oracle w celu oznaczenia. (4) Nowe etykiety dołączane są do zbioru treningowego, a model jest ponownie trenowany. Pętla powtarza się aż do wyczerpania budżetu etykiet lub spełnienia kryterium stopu. Scenariusze różnią się źródłem kandydatów: pool-based ocenia całą pulę i wybiera najlepsze, stream-based decyduje o każdym napływającym przykładzie z osobna, a membership query synthesis generuje syntetyczne przykłady do odpytania.
Etykietowanie danych jest często najdroższym i najwolniejszym elementem budowy modeli ML, podczas gdy surowe dane nieoznaczone są tanie i liczne. Uczenie pasywne (losowy dobór przykładów do oznaczenia) marnuje budżet adnotacji na przykłady mało informatywne. Uczenie aktywne minimalizuje liczbę potrzebnych etykiet, kierując pracę annotatora na przykłady, które najbardziej poprawią model.
Autorytatywne źródło etykiet — zwykle człowiek-ekspert, czasem inny system. Odpowiada na zapytania modelu, dostarczając prawdziwe etykiety wybranych przykładów.
Oficjalna
Model ML trenowany na rosnącym zbiorze oznaczonym; jego stan (niepewność, gradienty, predykcje) napędza wybór kolejnych zapytań.
Oficjalna
Zbiór lub strumień przykładów bez etykiet, z którego wybierani są kandydaci do oznaczenia.
Reguła wyboru przykładów: uncertainty sampling, query-by-committee, expected model change, expected error/variance reduction, metody gęstościowe/różnorodnościowe.
Oficjalna
Funkcja użyteczności przypisująca każdemu przykładowi wartość spodziewanego zysku informacyjnego, na podstawie której ranguje się kandydatów.
Oficjalna
Warunek zakończenia pętli: wyczerpanie budżetu etykiet, plateau jakości na zbiorze walidacyjnym lub próg pewności.
Oficjalna
Zbiór zebrany aktywnie nie jest iid względem rozkładu docelowego, co może pogorszyć jakość innych modeli trenowanych na tych danych i utrudnić uczciwą ewaluację.
Przy bardzo małym zbiorze początkowym model jest słaby, więc jego sygnał niepewności jest niewiarygodny, a wczesne zapytania — mało trafne.
Czyste uncertainty sampling w trybie wsadowym wybiera bardzo podobne, wzajemnie redundantne przykłady, marnując budżet etykiet.
Założenie o bezbłędnym oracle bywa nierealne; szum etykiet i różny koszt adnotacji obniżają zyski z aktywnego uczenia.
Softmax w sieciach głębokich bywa nadmiernie pewny, przez co surowa niepewność słabo mierzy informatywność.
Dana Angluin formalizuje uczenie przez zapytania członkowskie — teoretyczna podstawa scenariusza membership query synthesis.
Seung, Opper i Sompolinsky wprowadzają komitet modeli głosujący nad przykładami; wybierane są punkty o największej niezgodności.
Cohn, Atlas i Ladner wprowadzają termin i pokazują poprawę generalizacji dzięki selektywnemu doborowi przykładów.
Lewis i Gale proponują sekwencyjny algorytm uczenia klasyfikatorów tekstu oparty na próbkowaniu według niepewności.
Burr Settles publikuje Active Learning Literature Survey, porządkując scenariusze i strategie zapytań w jedną, powszechnie cytowaną taksonomię.
Gal, Islam i Ghahramani łączą uczenie aktywne z bayesowską niepewnością sieci głębokich (MC-dropout, BALD) dla danych obrazowych.
Sener i Savarese formułują dobór partii jako problem core-set, kładąc nacisk na reprezentatywność zamiast samej niepewności w uczeniu aktywnym z CNN.
Złożoność czasowa: O(R · (C_train + |U|·c_score)).
Wybór funkcji akwizycji (uncertainty, QBC, expected model change, diversity/core-set) — decyduje o skuteczności doboru próbek.
Maksymalna liczba zapytań do oracle; determinuje koszt i zwykle sufit jakości.
Liczba przykładów oznaczanych w jednej rundzie; duże B wymaga strategii różnorodnościowej, by uniknąć redundancji.
Rodzaj modelu (np. regresja logistyczna, SVM, sieć głęboka); wpływa na jakość sygnału niepewności i kalibrację.
Liczba etykiet na starcie; zbyt mała powoduje problem zimnego startu i słabe wczesne zapytania.
Warunek zakończenia pętli (budżet, plateau jakości, próg pewności).
Kanoniczna pętla jest sekwencyjna (każda runda zależy od poprzedniej). Tryb wsadowy (batch-mode active learning) pozwala zrównoleglić etykietowanie wielu przykładów w jednej rundzie.
Uczenie aktywne to paradygmat doboru danych niezależny od sprzętu; działa z dowolnym modelem bazowym i infrastrukturą.
