❤️❤️❤️❤️❤️❤️ 我们已经正式推出微信小程序，在微信中搜索 TrendForge Pro 即可使用小程序，如果使用 Telegram 请搜索 trendforge_tg ❤️❤️❤️❤️❤️❤️

moe

话题找到数量

vllm-project/vllm

Python

面向大语言模型的高吞吐量与内存优化型推理服务引擎

amd blackwell cuda
vllm-project
vllm-project 开发者
80k
17k
575
+182
排名 #11
5月20日
查看详情

hiyouga/LlamaFactory

Python

百款大语言模型与视觉语言模型的统一高效微调框架（ACL 2024）

agent ai deepseek
hiyouga
hiyouga 开发者
67k
8.2k
417
+52
排名 #6
2月27日
查看详情

sgl-project/sglang

Python

SGLang是面向大语言模型与视觉语言模型的高速推理框架。

attention blackwell cuda
sgl-project
sgl-project 开发者
27k
5.8k
558
+509
排名 #13
5月9日
查看详情

modelscope/ms-swift

Python

使用PEFT或全参数方法对500余个大语言模型和200余个多模态大语言模型进行CPT/SFT/DPO/GRPO训练

deepseek-r1 embedding grpo
modelscope
modelscope 开发者
12k
1.2k
340
+26
排名 #9
2月27日
查看详情

flashinfer-ai/flashinfer

Python

FlashInfer：大语言模型服务的核心计算库

attention cuda distributed-inference
flashinfer-ai
flashinfer-ai 开发者
4.8k
670
426
+14
排名 #7
1月27日
查看详情
助手