Agent Orchestration
Jak działa
Orkiestrator (nazywany też nadzorcą, planerem lub menedżerem) przyjmuje zadanie i dynamicznie dzieli je na podzadania, które — w odróżnieniu od statycznej równoległości — nie są predefiniowane, lecz ustalane na podstawie wejścia. Podzadania są kierowane (routing) i delegowane agentom-workerom; każdy worker to LLM wyposażony we własne instrukcje, narzędzia i ograniczony kontekst. Agenci komunikują się przez przekazanie kontroli (handoff z celem i payloadem, np. obiekt Command w LangGraph) albo przez współdzielony obiekt stanu lub historię wiadomości. Wyniki workerów wracają do orkiestratora (lub są agregowane programistycznie) i są scalane w odpowiedź końcową. Stan i pamięć są utrzymywane przez wspólną historię rozmowy lub jawny obiekt stanu, a warunki stopu (np. maksymalna liczba iteracji) chronią przed niekontrolowanym wykonaniem.
Rozwiązany problem
Pojedynczy agent traci skuteczność, gdy (a) ma zbyt wiele narzędzi i błędnie wybiera, które wywołać, (b) gromadzi kontekst zbyt złożony, by utrzymać go w oknie kontekstowym, oraz (c) musi obejmować wiele obszarów specjalizacji naraz. Orkiestracja izoluje kontekst dla poszczególnych agentów i pozwala specjalistom obsługiwać wąsko określone podzadania.
Komponenty
Oficjalna
Oficjalna
Oficjalna
Oficjalna
Implementacja
Ewolucja
Hiperparametry (konfigurowalne osie)
Wąskie gardło obliczeniowe
Paradygmat wykonania
Który agent jest aktywowany zależy od wejścia i decyzji orkiestratora — stąd tryb warunkowy (conditional) i wzorzec aktywacji input_dependent.
Równoległość
Równoległość zależy od wzorca: sectioning i voting (niezależne podzadania) wykonują się współbieżnie, natomiast łańcuchy zależnych kroków przebiegają sekwencyjnie.
Wymagania sprzętowe
Orchestration is an application/runtime-level paradigm realized through LLM API calls and control logic; it is independent of any specific accelerator and runs wherever the underlying models are served.