quantiz

话题找到数量

hiyouga/LlamaFactory

Python

百款大语言模型与视觉语言模型的统一高效微调框架（ACL 2024）

agent ai deepseek
hiyouga
hiyouga 开发者
67k
8.2k
215
+52
排名 #6
2月27日
查看详情

UFund-Me/Qbot

Jupyter Notebook

[🔥更新中...] AI自动量化交易机器人（完全本地部署）AI驱动的量化投资研究平台。

backtest bitcoin blockchain
UFund-Me
UFund-Me 开发者
16k
2.4k
156
+129
排名 #16
3月29日
查看详情

cactus-compute/cactus

C

在手机、可穿戴设备及AI原生硬件上本地运行人工智能

ai android arm
cactus-compute
cactus-compute 开发者
4.5k
332
185
+225
排名 #13
3月15日
查看详情

thu-ml/SageAttention

Cuda

量化注意力机制相比FlashAttention和xformers实现了2-5倍和3-11倍的速度提升，且在语言、图像和视频模型上保持端到端指标无损。

attention cuda efficient-attention
thu-ml
thu-ml 开发者
3.3k
391
182
+149
排名 #15
4月9日
查看详情

thu-ml/SpargeAttn

Cuda

SpargeAttention：一种免训练的稀疏注意力机制，可加速任何模型推理

ai-infra attention inference-acceleration
thu-ml
thu-ml 开发者
951
87
205
+4
排名 #16
2月25日
查看详情

Tencent/AngelSlim

Python

Model compression toolkit engineered for enhanced usability, comprehensiveness, and efficiency.

audio deepseek diffusion
Tencent
Tencent 开发者
424
46
163
+15
排名 #9
2月12日
查看详情
助手