sparse-attention

共找到 1 个相关项目

thu-ml/SpargeAttn

Cuda

SpargeAttention：一种免训练的稀疏注意力机制，可加速任何模型推理

ai-infra attention inference-acceleration
thu-ml
thu-ml 开发者
938
84
84
+4
排名 #16
2月13日
查看详情
助手