项目介绍快速开始学习路径贡献者 459 增长趋势代码统计生态关系项目时间线项目竞品依赖分析上榜历史

vllm-project/vllm

Python 一般

280

最后更新2026-03-04

71k

+134

#11

13k

项目介绍

面向大语言模型的高吞吐量与内存优化型推理服务引擎

A high-throughput and memory-efficient inference and serving engine for LLMs

智能解读

点击生成更详细的项目介绍

正在分析项目...

原始标签

amd blackwell cuda deepseek deepseek-v3 gpt gpt-oss inference kimi llama llm llm-serving model-serving moe openai pytorch qwen qwen3 tpu transformer

智能标签

生成技术栈、用途、特征、受众等多维度标签

使用场景

了解这个项目能帮你解决什么问题

项目健康度

72/100

良好

活跃度 10/23

距上次更新 38 天

人气 25/25

平台 Star TOP 1% · Forks 13,958

增长 17/25

本周 +635 ⭐ · 本月 +2,720 ⭐

社区 15/17

459 位贡献者 · 0 条平台评论

文档 5/10

缺少 3 项内容

在 GitHub 上查看

项目信息

作者 vllm-project

来源 GitHub

周期每日

仓库ID vllm-project/vllm

最新提交 2026-03-04 23:49:40

第一收录 2026-03-05 08:00:43

最后更新 2026-03-15 21:06:50

赞赏支持

如果本站对你有帮助，欢迎打赏支持

微信

支付宝

Widget 徽章

预览

Markdown

HTML

登录后发表评论

加载评论中...

相关项目推荐

public-apis/public-apis

免费API资源汇总列表

415k Python

EbookFoundation/free-programming-books

📚 免费提供的编程书籍

384k Python

donnemartin/system-design-primer

学习如何设计大规模系统。为系统设计面试做准备。包含Anki记忆卡片。

341k Python

vinta/awesome-python

精心整理的优质Python框架、库、软件及资源列表

265k Python

TheAlgorithms/Python

所有算法均使用Python实现

218k Python

Significant-Gravitas/AutoGPT

AutoGPT致力于实现人人可用的普惠AI，让每个人都能使用和构建AI。我们的使命是提供工具，让您专注于重要事务。

178k Python