acceleration

ONNX Runtime：跨平台高性能机器学习推理与训练加速引擎

NVIDIA® TensorRT™是用于NVIDIA GPU高性能深度学习推理的SDK，本仓库包含其开源组件

将您的平板设备用作计算机的绘图板或触摸屏。

一个用于加速仿真、数据生成和空间计算的 Python 框架。

Mac专用鼠标与触控板工具

面向加速基础设施与微服务架构优化的生成式AI参考工作流

量化注意力机制相比FlashAttention和xformers实现了2-5倍和3-11倍的速度提升，且在语言、图像和视频模型上保持端到端指标无损。

异构AI计算虚拟化中间件（CNCF孵化项目）

CUDA核心计算库

通过Termux X11在Android设备上安装完整Linux桌面环境（可选VNC）并启用硬件加速

Sionna：用于通信系统研究的开源库

基于RISC-V指令集架构的开源GPU设计，采用Verilog实现

SpargeAttention：一种免训练的稀疏注意力机制，可加速任何模型推理

该框架为常见现代异构平台提供操作系统抽象和一系列共享网络与内存服务。