❤️❤️❤️❤️❤️❤️ 我们已经正式推出微信小程序，在微信中搜索 TrendForge Pro 即可使用小程序，如果使用 Telegram 请搜索 trendforge_tg ❤️❤️❤️❤️❤️❤️

distributed-inference

话题找到数量

flashinfer-ai/flashinfer

Python

FlashInfer：大语言模型服务的核心计算库

attention cuda distributed-inference
flashinfer-ai
flashinfer-ai 开发者
4.8k
670
429
+14
排名 #7
1月27日
查看详情

llm-d/llm-d

Shell

llm-d 是基于 Kubernetes 的高性能分布式 LLM 推理框架

ai cncf distributed-inference
llm-d
llm-d 开发者
3.2k
493
200
+5
排名 #9
5月23日
查看详情
助手