❤️❤️❤️❤️❤️❤️ 我们已经正式推出微信小程序，在微信中搜索 TrendForge Pro 即可使用小程序，如果使用 Telegram 请搜索 trendforge_tg ❤️❤️❤️❤️❤️❤️

sglang

话题找到数量

ai-dynamo/dynamo

Rust

数据中心级分布式推理服务框架

diffusion disaggregated-serving kubernetes
ai-dynamo
ai-dynamo 开发者
7.5k
1.3k
574
+12
排名 #15
7月14日
查看详情

kvcache-ai/Mooncake

C++

Mooncake是Moonshot AI旗下领先大语言模型服务Kimi的部署平台。

disaggregation inference kvcache
kvcache-ai
kvcache-ai 开发者
5.7k
909
537
+233
排名 #21
6月30日
查看详情

SemiAnalysisAI/InferenceX

Shell

开源持续推理基准测试：Qwen3.5、DeepSeek、GPTOSS - GB200 NVL72对比MI355X、B200、GB300 NVL72、H100，即将支持TPUv6e/v7/Trainium2/3

ai amd benchmark
SemiAnalysisAI
SemiAnalysisAI 开发者
1.1k
202
474
+11
排名 #8
6月17日
查看详情

SemiAnalysisAI/InferenceX

Python

开源持续推理基准测试：Qwen3.5、DeepSeek、GPTOSS - GB200 NVL72对比MI355X、B200、GB300 NVL72、H100，即将支持TPUv6e/v7/Trainium2/3

ai amd benchmark
SemiAnalysisAI
SemiAnalysisAI 开发者
1k
176
474
+6
排名 #10
5月28日
查看详情
助手