#transformer 每周趋势报告

OpenAI Whisper模型的C/C++移植版本

面向昇腾平台的vLLM社区维护硬件插件

AI 编排框架，用于构建可定制、生产就绪的 LLM 应用。将组件（模型、向量数据库、文件转换器）连接到可与数据交互的流水线或智能体。凭借高级检索方法，特别适用于构建 RAG、问答系统、语义搜索或对话式聊天机器人

Zig推理引擎 — 在AMD GPU和Apple Silicon上运行本地大语言模型推理