Databricks Unity AI Gateway
Warstwa governance Databricks (Mosaic AI / Unity Gateway) do zarządzania dostępem, routingiem, limitami, logowaniem i guardrails dla endpointów model serving w Unity Catalog.
Opis
Databricks Unity AI Gateway (wcześniej Mosaic AI Gateway, obecnie rozwijany jako Unity Gateway) to warstwa governance dla enterprise AI zbudowana na Unity Catalog. Centralizuje zarządzanie dostępem, routingiem ruchu, limitami oraz monitorowaniem kosztów dla endpointów model serving na platformie Databricks.
Kluczowe funkcje obejmują: kontrolę dostępu i uprawnień (grant/revoke na obiektach securable Unity Catalog, ograniczenia foundation models per grupa), rate limiting (limity QPM i TPM na poziomie endpointu, użytkownika i grupy), traffic splitting oraz fallbacki między modelami przy błędach 429/5XX, guardrails (wykrywanie i maskowanie/blokowanie PII, filtry treści niebezpiecznych) oraz obserwowalność (payload logging żądań i odpowiedzi do tabel Delta, tabele systemowe z użyciem tokenów, latencją i atrybucją kosztów).
Gateway obsługuje endpointy model serving typu: external models (m.in. OpenAI, Anthropic — bring-your-own-key), Foundation Model APIs (pay-per-token), provisioned throughput oraz custom models. Rozszerza governance także na agentów AI, serwery MCP i narzędzia.
Dane i wiedzaZarządzanie danymi i wiedząKonektory danych, integracja z bazami wektorowymi, native vector search i mechanizmy zarządzania danymi (PII, provenance, dane syntetyczne).
BezpieczeństwoBezpieczeństwo EnterpriseZestaw certyfikacji, kontroli dostępu oraz funkcji ochrony danych, kluczowych dla wdrożeń korporacyjnych i zachowania prywatności w chmurze.
Ekosystem deweloperskiEkosystem DeweloperskiZasoby wspierające programistów: dostępne biblioteki SDK, wspierane języki programowania oraz funkcje infrastrukturalne i metody wdrażania modeli.
Cennik i model biznesowyCennik i model biznesowyModele rozliczeń (usage-based, provisioned throughput), limity zasobów oraz parametry SLA (uptime, poziomy wsparcia).
Modele cenowe