blackwell

共找到 2 个相关项目

vllm-project/vllm

Python

面向大语言模型的高吞吐量与内存优化型推理服务引擎

amd blackwell cuda
vllm-project
vllm-project 开发者
68k
12k
66
+182
排名 #8
1月23日
查看详情

sgl-project/sglang

Python

SGLang是面向大语言模型与视觉语言模型的高速推理框架。

attention blackwell cuda
sgl-project
sgl-project 开发者
23k
4.3k
135
+128
排名 #9
2月6日
查看详情
助手