#inference 每周趋势报告

⚡ 无需Python的Rust推理服务器 — 兼容OpenAI-API。支持GGUF与SafeTensors、热模型切换、自动发现、单二进制文件。现在免费，永远免费。

在手机、可穿戴设备及AI原生硬件上本地运行人工智能

Lemonade 通过直接在用户自己的 GPU 和 NPU 上运行优化后的 LLM，帮助用户发现并运行本地 AI 应用。加入我们的 Discord：https://discord.gg/5xXzkMu8Zk

基于Envoy Gateway构建的生成式AI服务统一访问管理平台

ncnn专为移动平台优化的高性能神经网络推理框架

量化注意力机制相比FlashAttention和xformers实现了2-5倍和3-11倍的速度提升，且在语言、图像和视频模型上保持端到端指标无损。

RTP-LLM：阿里巴巴面向多样化应用的高性能大语言模型推理引擎。