Router analizuje zapytanie i na podstawie reguł, klasyfikatora lub metadanych kieruje je do odpowiedniego modelu. W wariantach zaawansowanych wiele modeli generuje kandydatów równolegle, a mechanizm agregacji (głosowanie, ranking, model-sędzia) wybiera lub scala najlepszy wynik.
Żaden pojedynczy model nie jest najlepszy we wszystkim ani optymalny kosztowo; potrzebna jest warstwa łącząca mocne strony wielu modeli.
