model-router

话题找到数量

Portkey-AI/gateway

一个集成了防护机制的极速AI网关,通过一个快速友好的API路由至200多个大型语言模型和50多个AI防护机制。

10k
936
183
+16
排名 #15
3月12日
查看详情

maximhq/bifrost

最快的LLM网关,性能超越LiteLLM达50倍,具备自适应负载均衡器、集群模式、防护机制,支持1000多种模型,在5k RPS下延迟低于100微秒

3.5k
385
214
+216
排名 #16
4月5日
查看详情
助手