模型部署

话题找到数量

microsoft/BitNet

Python

1位量化大语言模型官方推理框架

microsoft
microsoft 开发者
38k
3.4k
220
+8.4k
排名 #17
4月9日
查看详情

microsoft/BitNet

C++

Official inference framework for 1-bit LLMs

microsoft
microsoft 开发者
19k
1.5k
220
+5.1k
排名 #14
5月16日
查看详情

google-ai-edge/LiteRT-LM

C++

暂无项目描述

google-ai-edge
google-ai-edge 开发者
3.2k
301
93
+528
排名 #22
4月9日
查看详情
助手