#inference 每日趋势报告

在手机、可穿戴设备及AI原生硬件上本地运行人工智能

面向苹果芯片的端侧语音人工智能

Mooncake是Moonshot AI旗下领先大语言模型服务Kimi的部署平台。

任意模型·任意硬件·零妥协·基于@ziglang/@openxla/MLIR/@bazelbuild构建

llm-d 是基于 Kubernetes 的高性能分布式 LLM 推理框架

llm-d Router：推理请求的智能入口点

RTP-LLM：阿里巴巴面向多样化应用的高性能大语言模型推理引擎。

量化注意力机制相比FlashAttention和xformers实现了2-5倍和3-11倍的速度提升，且在语言、图像和视频模型上保持端到端指标无损。