One API
Otwarta (MIT) platforma-brama do zarzadzania i dystrybucji API modeli LLM: udostepnia wielu dostawcow przez jedno API zgodne z OpenAI, z zarzadzaniem kluczami, limitami i load balancingiem.
Opis
One API (one-api) to otwarta platforma do zarzadzania i redystrybucji API duzych modeli jezykowych (LLM), autorstwa songquanpeng (JustSong), udostepniona na licencji MIT (2023). Umozliwia dostep do wielu dostawcow LLM przez jedno, ujednolicone API zgodne z formatem OpenAI.
Obsluguje m.in. OpenAI (i Azure OpenAI), Anthropic Claude, Google Gemini/PaLM, DeepSeek, ChatGLM (Zhipu), Baidu Wenxin, Alibaba Qwen, iFlytek Spark, Tencent Hunyuan i inne. Kluczowe funkcje: load balancing miedzy kanalami, tryb strumieniowy, zarzadzanie tokenami (czas waznosci, limity uzycia), zarzadzanie kanalami, grupowanie uzytkownikow i kanalow (rozne stawki), kody doladowania (vouchery) oraz wdrozenie wielomaszynowe.
Projekt jest zaimplementowany w Go (backend) z interfejsem webowym (React), dystrybuowany jako pojedynczy plik wykonywalny oraz obraz Docker (jednoklikowe wdrozenie, self-hosted). To popularne, otwarte rozwiazanie klasy „LLM API gateway" (ponad 36 tys. gwiazdek na GitHubie), sluzace do zarzadzania kluczami i wtornej dystrybucji dostepu do modeli.