gateway-services
共找到 1 个相关项目
maximhq/bifrost
最快的LLM网关，性能超越LiteLLM达50倍，具备自适应负载均衡器、集群模式、防护机制，支持1000多种模型，在5k RPS下延迟低于100微秒
2.3k
241
76
+78