Agentgateway

Agentgateway to open-source, wysokowydajny gateway pod licencją Apache 2.0, hostowany w Linux Foundation jako projekt AAIF (Agentic AI Infrastructure Foundation). Projekt donowany przez Solo.io (znaną z Istio Ambient Mesh, Gloo Mesh). Innowacja: jeden binary Rust, jeden control plane, jeden data plane obsługuje wszystkie typy ruchu naraz - service traffic (HTTP, gRPC, TCP), LLM provider traffic, MCP tool calls, agent-to-agent (A2A). Zastępuje łańcuch osobnych gateway'ów (API gateway + LLM gateway + MCP gateway + service mesh) jedną spójną warstwą. Kontrybuują: Microsoft, Alibaba, Adobe, AWS, Cisco, Salesforce, Huawei, Amdocs, T-Mobile, UBS. Instalacja: curl -sL https://agentgateway.dev/install | bash (binary), Docker ghcr.io/agentgateway/agentgateway:latest lub Helm chart na Kubernetes (Gateway API).

Sześć głównych funkcji: (1) Service Gateway - HTTP/2, gRPC, TCP, north-south i east-west traffic; observable by default; zero-config TLS 1.3, OIDC, mTLS rotation; native Envoy compatibility. (2) LLM Gateway - drop-in OpenAI-compatible API dla 12+ backendów (OpenAI, Anthropic, Bedrock, Gemini, Vertex, Cohere, Mistral, DeepSeek, Ollama, xAI, Perplexity, Replicate, Azure OpenAI, Hugging Face, NVIDIA NIM, Databricks, Snowflake, Meta/Llama); per-team token budgets, semantic caching, prompt redaction, credentialing, automatic failover. (3) Inference Routing - smart routing dla self-hosted GPU pools; latency-aware, cost-aware, model-aware; plug-in vLLM, TGI, Triton - Agentgateway wybiera najcieplejszą replikę.

Kluczowe funkcje ciąg dalszy: (4) MCP Gateway - control plane dla Model Context Protocol. Discovery, signing, scoping, observability każdego tool call agenta. Traktuje MCP servers jak microservices - z wersjonowaniem, RBAC, audit trails. Kluczowe dla enterprise deploymentów AI - centralna widoczność wszystkich narzędzi używanych przez agentów. (5) A2A Gateway - natywne wsparcie Agent-to-Agent protokołu. Bridge między agentami LangChain, CrewAI, Google ADK, Claude Code, Cursor, Codex, Hermes Agent, OpenClaw, Pi.dev. Identity, tracing, replay. (6) Security & Observability - OpenTelemetry by default; per-tool, per-agent, per-tenant counters; OPA-evaluated allow/deny na każdym hopie; tamper-evident audit logs; PII shield. Prometheus, Datadog, Sentry, Langfuse, W&B, PagerDuty native integrations. Kubernetes CRDs via Helm chart. Podstawa dla 'AI Mesh' w organizacji.

Ekosystem: obsługiwane frameworks agentowe - LangChain, LangGraph, CrewAI, Google ADK, Hermes Agent, OpenClaw, kagent, NemoClaw. Obsługiwane tools/IDE - Claude Code, Cursor, Codex, VS Code, OpenCode, Pi.dev, GitHub CLI. Integracje MCP server - GitHub MCP, Slack MCP, Postgres MCP, Docker MCP. Infrastruktura - Kubernetes, AWS, Google Cloud, GKE, HashiCorp Vault. Observability - OpenTelemetry, Prometheus, Datadog, Sentry, Langfuse, Weights & Biases, PagerDuty. Rozmiar CNCF-scale: kontrybuują inżynierowie Microsoft, AWS, Google, Adobe, Cisco, Salesforce, Alibaba. Dell CTO John Roese, CoreWeave SVP Chen Goldberg, Akamai SVP Jon Alexander, Microsoft CNCF Ambassador Mitch Connors, T-Mobile Director Rob Hansen, UBS Executive Director Sathish Krishnan i Kyverno CEO Jim Bugwadia publicznie potwierdzili strategiczne znaczenie projektu.

Pozycja rynkowa: Agentgateway wchodzi w segment AI-native gateway/mesh, konkurując z: LiteLLM Proxy (BerriAI, self-hosted Python), Portkey, Helicone AI Gateway, warstwą Envoy + custom filters. Wyróżnia się: (a) governance-first z Linux Foundation/AAIF - trust dla enterprise; (b) jeden binary Rust zamiast łańcucha komponentów; (c) natywne wsparcie zarówno tradycyjnego traffic'u (HTTP/gRPC/TCP) jak i AI-native (LLM/MCP/A2A); (d) natywne Kubernetes CRDs; (e) OpenTelemetry i OPA built-in. Wsparcie kagent (od tego samego zespołu Solo.io) - agent orchestration na Kubernetes. Roadmap Q3-Q4 2026: sematic caching improvements, cross-agent memory federation, deeper policy engine.