gRPC
Wysokowydajny framework RPC używany do komunikacji service-to-service, edge-to-cloud i integracji backendowej.
Platforma AIAI-natywny
Agentgateway
Open source (Apache 2.0) HTTP/gRPC gateway pod Linux Foundation (projekt AAIF), zunifikowany data plane dla ruchu usługowego, LLM, MCP i A2A. Route, secure, observe, govern - jeden binary zamiast łańcucha osobnych gateway'ów.
Dostępność regionalna·0 regionów
- Self-hosted (dowolny region klienta / any customer region)
Data ResidencySovereign Cloud
SDK / Języki
3go, python, typesc…
Uptime SLA
99.9%
Robotics-Ready
✓
Opis
Agentgateway to open-source, wysokowydajny gateway pod licencją Apache 2.0, hostowany w Linux Foundation jako projekt AAIF (Agentic AI Infrastructure Foundation). Projekt donowany przez Solo.io (znaną z Istio Ambient Mesh, Gloo Mesh). Innowacja: jeden binary Rust, jeden control plane, jeden data plane obsługuje wszystkie typy ruchu naraz - service traffic (HTTP, gRPC, TCP), LLM provider traffic, MCP tool calls, agent-to-agent (A2A). Zastępuje łańcuch osobnych gateway'ów (API gateway + LLM gateway + MCP gateway + service mesh) jedną spójną warstwą. Kontrybuują: Microsoft, Alibaba, Adobe, AWS, Cisco, Salesforce, Huawei, Amdocs, T-Mobile, UBS. Instalacja: curl -sL https://agentgateway.dev/install | bash (binary), Docker ghcr.io/agentgateway/agentgateway:latest lub Helm chart na Kubernetes (Gateway API).
Sześć głównych funkcji: (1) Service Gateway - HTTP/2, gRPC, TCP, north-south i east-west traffic; observable by default; zero-config TLS 1.3, OIDC, mTLS rotation; native Envoy compatibility. (2) LLM Gateway - drop-in OpenAI-compatible API dla 12+ backendów (OpenAI, Anthropic, Bedrock, Gemini, Vertex, Cohere, Mistral, DeepSeek, Ollama, xAI, Perplexity, Replicate, Azure OpenAI, Hugging Face, NVIDIA NIM, Databricks, Snowflake, Meta/Llama); per-team token budgets, semantic caching, prompt redaction, credentialing, automatic failover. (3) Inference Routing - smart routing dla self-hosted GPU pools; latency-aware, cost-aware, model-aware; plug-in vLLM, TGI, Triton - Agentgateway wybiera najcieplejszą replikę.
Kluczowe funkcje ciąg dalszy: (4) MCP Gateway - control plane dla Model Context Protocol. Discovery, signing, scoping, observability każdego tool call agenta. Traktuje MCP servers jak microservices - z wersjonowaniem, RBAC, audit trails. Kluczowe dla enterprise deploymentów AI - centralna widoczność wszystkich narzędzi używanych przez agentów. (5) A2A Gateway - natywne wsparcie Agent-to-Agent protokołu. Bridge między agentami LangChain, CrewAI, Google ADK, Claude Code, Cursor, Codex, Hermes Agent, OpenClaw, Pi.dev. Identity, tracing, replay. (6) Security & Observability - OpenTelemetry by default; per-tool, per-agent, per-tenant counters; OPA-evaluated allow/deny na każdym hopie; tamper-evident audit logs; PII shield. Prometheus, Datadog, Sentry, Langfuse, W&B, PagerDuty native integrations. Kubernetes CRDs via Helm chart. Podstawa dla 'AI Mesh' w organizacji.
Ekosystem: obsługiwane frameworks agentowe - LangChain, LangGraph, CrewAI, Google ADK, Hermes Agent, OpenClaw, kagent, NemoClaw. Obsługiwane tools/IDE - Claude Code, Cursor, Codex, VS Code, OpenCode, Pi.dev, GitHub CLI. Integracje MCP server - GitHub MCP, Slack MCP, Postgres MCP, Docker MCP. Infrastruktura - Kubernetes, AWS, Google Cloud, GKE, HashiCorp Vault. Observability - OpenTelemetry, Prometheus, Datadog, Sentry, Langfuse, Weights & Biases, PagerDuty. Rozmiar CNCF-scale: kontrybuują inżynierowie Microsoft, AWS, Google, Adobe, Cisco, Salesforce, Alibaba. Dell CTO John Roese, CoreWeave SVP Chen Goldberg, Akamai SVP Jon Alexander, Microsoft CNCF Ambassador Mitch Connors, T-Mobile Director Rob Hansen, UBS Executive Director Sathish Krishnan i Kyverno CEO Jim Bugwadia publicznie potwierdzili strategiczne znaczenie projektu.
Pozycja rynkowa: Agentgateway wchodzi w segment AI-native gateway/mesh, konkurując z: LiteLLM Proxy (BerriAI, self-hosted Python), Portkey, Helicone AI Gateway, warstwą Envoy + custom filters. Wyróżnia się: (a) governance-first z Linux Foundation/AAIF - trust dla enterprise; (b) jeden binary Rust zamiast łańcucha komponentów; (c) natywne wsparcie zarówno tradycyjnego traffic'u (HTTP/gRPC/TCP) jak i AI-native (LLM/MCP/A2A); (d) natywne Kubernetes CRDs; (e) OpenTelemetry i OPA built-in. Wsparcie kagent (od tego samego zespołu Solo.io) - agent orchestration na Kubernetes. Roadmap Q3-Q4 2026: sematic caching improvements, cross-agent memory federation, deeper policy engine.
MLOps LifecycleMLOps LifecyclePełny cykl życia modelu: rejestr, feature store, prompt management, monitoring i human-in-the-loop.
Rejestr modeli
Wersjonowanie — wersjonowanie artefaktów modelu
Przepływy zatwierdzania — przepływ zatwierdzania przed produkcją
Niezmienne artefakty — niezmienność zapisanych wersji
Śledzenie rodowodu — śledzenie powiązań danych i modeli
1 / 4 wspierane · 3 niespełnione ukryte
Magazyn cech
Serwowanie online — serwowanie cech w czasie rzeczywistym
Przechowywanie offline — przechowywanie cech dla treningu
Ingestia strumieniowa — ingestia strumieniowa (Kafka, Flink)
0 / 3 wspierane · 3 niespełnione ukryte
Zarządzanie promptami
Rejestr promptów — centralne repozytorium promptów
Wersjonowanie — wersjonowanie i historia promptów
Frameworki testowe — A/B testing i ewaluacja promptów
0 / 3 wspierane · 3 niespełnione ukryte
Monitoring
Wykrywanie dryftu danych — wykrywanie dryftu danych wejściowych
Wykrywanie dryftu koncepcyjnego — wykrywanie dryftu koncepcyjnego
Monitorowanie halucynacji — monitorowanie halucynacji LLM
Ewaluacja stronniczości — narzędzia do ewaluacji stronniczości
0 / 4 wspierane · 4 niespełnione ukryte
Human-in-the-Loop
Usługi etykietowania — narzędzia do etykietowania danych
RLHF — reinforcement learning from human feedback
Ręczne przesłonięcia — ręczne przełączanie decyzji modelu
1 / 3 wspierane · 2 niespełnione ukryte
Dane i wiedzaZarządzanie danymi i wiedząKonektory danych, integracja z bazami wektorowymi, native vector search i mechanizmy zarządzania danymi (PII, provenance, dane syntetyczne).
ZastosowaniaZastosowania AIDziedziny i scenariusze zastosowania, do których platforma jest najlepiej dopasowana – od RAG i fine-tuningu po zastosowania naukowe.
BezpieczeństwoBezpieczeństwo EnterpriseZestaw certyfikacji, kontroli dostępu oraz funkcji ochrony danych, kluczowych dla wdrożeń korporacyjnych i zachowania prywatności w chmurze.
Ekosystem deweloperskiEkosystem DeweloperskiZasoby wspierające programistów: dostępne biblioteki SDK, wspierane języki programowania oraz funkcje infrastrukturalne i metody wdrażania modeli.
Języki SDK
GoGoPyPythonTSTypeScript
Typ API
RESTgRPC
Społeczność i zasoby
Biblioteka szablonów
Szybki start
Dokumentacja API
Samouczki
Cennik i model biznesowyCennik i model biznesowyModele rozliczeń (usage-based, provisioned throughput), limity zasobów oraz parametry SLA (uptime, poziomy wsparcia).
Modele cenowe
Subskrypcja warstwowa
Limity zasobów
Per projekt
Per użytkownik
Alerty kosztów
SLA i wsparcie
99.9%uptime SLA
SpołecznośćStandardowyEnterprise 24/7
Robotics & Humanoids ExtensionRobotics & Humanoids ExtensionSilniki symulacji (Isaac Sim, Gazebo, MuJoCo), protokoły komunikacji (ROS2, MQTT, Zenoh), standardy robotyczne (URDF, OpenUSD) i edge orchestration.
Brak wsparcia robotyki
ŹródłaArchiwum DokumentacjiScentralizowana baza linków do oficjalnych źródeł, instrukcji technicznych, repozytoriów oraz notatek wydawniczych (release notes).
Zrównoważony rozwójZrównoważony rozwójŚlad węglowy, udział energii odnawialnej w zasilaniu centrów danych oraz metryki efektywności energetycznej (np. PUE).
Śledzenie śladu węglowego
Self-hosted binary Rust - niski overhead CPU/RAM w porównaniu do warstw JVM/Node.js. Metryki efektywności zależą od infrastruktury klienta.