#llm 每日趋势报告

《深入理解 AI Agent：设计原理与工程实践》（李博杰 著）开源主仓库：全书正文、编译版 PDF 与按章配套代码

《深入理解 AI Agent：设计原理与工程实践》（李博杰 著）开源主仓库：全书正文、编译版 PDF 与按章配套代码

OmniRoute是一个面向多供应商大语言模型的AI网关：它提供兼容OpenAI的端点，具备智能路由、负载均衡、重试和故障转移功能。

面向Claude Code的本地知识图谱。构建代码库的持久化映射，使Claude仅读取关键内容——代码审查时减少6.8倍的令牌消耗，日常编码任务中最高可减少49倍。

面向Claude Code的本地知识图谱。构建代码库的持久化映射，使Claude仅读取关键内容——代码审查时减少6.8倍的令牌消耗，日常编码任务中最高可减少49倍。

学习它。构建它。为他人交付它。

学习它。构建它。为他人交付它。

使用单张4GB GPU实现AirLLM 70B推理

使用单张4GB GPU实现AirLLM 70B推理

编码智能体框架

编码智能体框架

⚡️ GenBI（生成式商业智能）支持使用自然语言查询任意数据库，可在数秒内生成精准的SQL（文本转SQL）、图表（文本转图表）及基于人工智能的深度洞察。

⚡️ GenBI（生成式商业智能）支持使用自然语言查询任意数据库，可在数秒内生成精准的SQL（文本转SQL）、图表（文本转图表）及基于人工智能的深度洞察。

集成多款即时通讯平台、大语言模型、插件及AI功能的智能聊天机器人基础设施，可作为OpenClaw的替代方案。✨

集成多款即时通讯平台、大语言模型、插件及AI功能的智能聊天机器人基础设施，可作为OpenClaw的替代方案。✨

开始使用OpenAI gpt-oss、DeepSeek-R1、Gemma 3及其他模型。

面向终端的DeepSeek原生AI编程助手。围绕前缀缓存稳定性设计——保持其持续运行。

开箱即用的 AI 标书编写工具，AI 标书生成工具，投标工具箱、知识库、标书查重、废标项检查，完全开源免费，欢迎使用

面向AI的数据转换框架。具备卓越性能，支持增量处理。如果喜欢请点亮星星！

🤖 开源免费的OpenAI、Claude及其他AI平台的替代方案。支持自主托管且本地优先，可作为OpenAI的即插即用替代方案运行于消费级硬件，无需GPU。兼容gguf、transformers、diffusers等多种模型架构。功能包括：文本生成、音频处理、视频制作、图像生成、语音克隆、分布式点对点推理。

一种更快、更轻量、更廉价的沙箱替代方案。在隔离的Linux虚拟机中运行任意编码代理，并内置代理编排功能。

Google Cloud生成式AI示例代码与笔记本，含Vertex AI平台的Gemini模型应用。

O'Reilly书籍《动手玩转大语言模型》官方代码库

🐙 提示工程指南、论文、讲座、笔记本及资源

将您的PC、Mac或Linux设备转变为AI服务器，支持大语言模型推理、聊天界面、语音、智能体、工作流、RAG及图像生成。

本仓库展示检索增强生成系统的多种先进技术，该系统通过结合信息检索与生成模型来提供精准且上下文丰富的响应

停止手动提示，开始精确指定

经典的Sillytavern，现已用Tauri/Rust重写。

AI 编排框架，用于构建可定制、生产就绪的 LLM 应用。将组件（模型、向量数据库、文件转换器）连接到可与数据交互的流水线或智能体。凭借高级检索方法，特别适用于构建 RAG、问答系统、语义搜索或对话式聊天机器人

具备容错能力、高度可扩展的GPU编排系统，以及专为训练数十亿至数万亿参数模型设计的机器学习框架

🦍 云原生API网关与AI网关。

专为Apple Silicon打造的原生LLM推理服务器，兼容OpenAI与Anthropic API，无需Python环境。包含基于MLX Core的macOS应用，支持聊天、智能体模式及工具调用功能。

✨ AI 编程，Vim 风格

RTP-LLM：阿里巴巴面向多样化应用的高性能大语言模型推理引擎。

RAFT 包含用于机器学习和信息检索的基础性、广泛使用的算法与原语。这些算法经过 CUDA 加速，构成了更轻松编写高性能应用程序的构建模块。

cuVS - 一个用于GPU上的向量搜索与聚类的库

Awesome Claude 目录：智能体、MCP 服务器、技能、钩子、命令、工具、指南及 AI 工作流资源。

🪢 Langfuse 文档 —— Langfuse 是开源的 LLM 工程平台。提供可观测性、评估、提示词管理、游乐场和指标功能，用于调试和改进 LLM 应用