1) Posrednik gromadzi dostep do dostawcow: konta, klucze API lub kredyty (wlasne, hurtowe lub z pul/kont). 2) Uruchamia brame/relay (np. one-api, New API) wystawiajaca zgodne z OpenAI API oraz panel rozliczen, limitow i kluczy. 3) Klient ustawia base_url na adres relay i uzywa klucza posrednika; zadania sa przekazywane (proxy) do wybranego dostawcy, z load balancingiem i rotacja kluczy. 4) Posrednik nalicza oplaty (czesto w tokenach/kredytach), stosujac marze lub obnizke wzgledem cen oryginalnych; platnosc lokalnymi metodami.
Obniza koszt i bariery dostepu do platnych API AI (platnosci, dostepnosc regionalna, wiele kont), oferujac jeden interfejs do wielu dostawcow. Kosztem jest legalnosc, prywatnosc i niezawodnosc.
Punkt przekazujacy zadania z base_url klienta do oryginalnych API dostawcow.
Oficjalna
Zbior kluczy API lub kont dostawcow, z ktorych korzysta relay (z rotacja).
Oficjalna
Panel (np. one-api / New API) do zarzadzania uzytkownikami, tokenami, limitami i load balancingiem.
Oficjalna
Lokalne metody platnosci (Alipay, WeChat) i sprzedaz kredytow/tokenow.
Oficjalna
Odsprzedaz zwykle lamie warunki dostawcow; konta/klucze bywaja blokowane, przerywajac usluge.
Relay widzi tresc zapytan i odpowiedzi; posrednik moze je logowac lub wykorzystywac.
Brak bezposredniej odpowiedzialnosci dostawcy; jakosc i dostepnosc bywaja niestabilne.
Kredyty z naduzyc/oszustw oraz podmiana modelu (bait-and-switch) na tanszy niz deklarowany.
Otwarte narzedzia typu one-api umozliwiaja latwe stawianie relay/stacji odsprzedazy dostepu do LLM.
OpenRouter i podobne uslugi normalizuja agregacje wielu modeli za jednym API - legalny biegun tego rynku.
Relay/proxy staje sie realna warstwa infrastruktury; rownolegle rosna naduzycia (pule kont, fraud, logowanie promptow).
Złożoność czasowa: O(1) narzut proxy na zadanie. Złożoność przestrzenna: O(uzytkownicy + klucze + logi).
Przepustowosc relay ogranicza laczny limit zapytan dostawcow oraz liczba/waznosc kluczy w puli; blokady kont i wyczerpanie kredytow przerywaja usluge.
Cena wzgledem stawek oryginalnych (marza lub obnizka 30-90%).
Ktorzy dostawcy i modele sa agregowani za jednym API.
Strategia rotacji i failoveru kluczy/kont.
Wybor trasy zalezy od zadania, modelu i dostepnosci kluczy.
Relay warunkowo wybiera dostawce i klucz z puli dla kazdego zadania (load balancing, failover).
Wiele zadan mozna przekazywac rownolegle, rozkladajac je na pule kluczy i dostawcow.
Relay to lekki serwis proxy/sieciowy - niezalezny od sprzetu; obliczenia modeli wykonuja dostawcy.
