jd-opensource/xllm
项目介绍
专为多种AI加速器优化的大语言模型高性能推理引擎。
A high-performance inference engine for LLMs, optimized for diverse AI accelerators.
智能解读
智能标签
使用场景
项目健康度
距上次更新 1 天
平台 Star TOP 67% · Forks 175
本周 +84 ⭐ · 本月 +77 ⭐
44 位贡献者 · 0 条平台评论
缺少 2 项内容
项目信息
赞赏支持
如果本站对你有帮助，欢迎打赏支持
微信
支付宝
Widget 徽章
相关项目推荐
tensorflow/tensorflow
面向所有人的开源机器学习框架
facebook/react-native
一个使用React构建原生应用程序的框架
electron/electron
使用 JavaScript、HTML 和 CSS 构建跨平台桌面应用程序
godotengine/godot
Godot引擎——跨平台2D与3D游戏引擎
ggml-org/llama.cpp
使用 C/C++ 实现的大语言模型推理框架
microsoft/terminal
全新Windows Terminal与经典Windows控制台主机，集于一处！
加载评论中...