#llm 每周趋势报告

基于 AI 智能体和 RAG 技术的精选 LLM 应用集合，支持 OpenAI、Anthropic、Gemini 及开源模型

基于 AI 智能体和 RAG 技术的精选 LLM 应用集合，支持 OpenAI、Anthropic、Gemini 及开源模型

"Vibe-Trading：您的个人交易代理"

"Vibe-Trading：您的个人交易代理"

OmniRoute是一个面向多供应商大语言模型的AI网关：它提供兼容OpenAI的端点，具备智能路由、负载均衡、重试和故障转移功能。

您的个人AI助手；安装简便，可部署在本地或云端；支持多种聊天应用，且功能易于扩展。

使用单张4GB GPU实现AirLLM 70B推理

面向Claude Code的本地知识图谱。构建代码库的持久化映射，使Claude仅读取关键内容——代码审查时减少6.8倍的令牌消耗，日常编码任务中最高可减少49倍。

面向Claude Code的本地知识图谱。构建代码库的持久化映射，使Claude仅读取关键内容——代码审查时减少6.8倍的令牌消耗，日常编码任务中最高可减少49倍。

轻量级、开源的AI代理，适用于您的工具、聊天和工作流。

开箱即用的 AI 标书编写工具，AI 标书生成工具，投标工具箱、知识库、标书查重、废标项检查，完全开源免费，欢迎使用

开始使用OpenAI gpt-oss、DeepSeek-R1、Gemma 3及其他模型。

🌐 开源智能体浏览器；ChatGPT Atlas、Perplexity Comet、Dia 的替代方案。

又名Awesome ChatGPT提示词库。分享、发现并收集来自社区的提示词。免费开源——为您的组织提供完全隐私的自托管服务。

screenpipe将您的电脑转变为个人AI助手，它能知晓您的一切操作。记录、搜索、自动化，全部本地运行，完全私密，尽在您掌控。

Context7 MCP 服务器 —— 面向大型语言模型与AI代码编辑器的实时代码文档平台 （注：根据技术文档翻译规范，MCP采用业界通用缩写形式保留原词，LLMs译为"大型语言模型"符合人工智能领域术语标准，整体表述既保持技术准确性又符合中文科技文档的简洁特征）

🐙 提示工程指南、论文、讲座、笔记本及资源

将您的PC、Mac或Linux设备转变为AI服务器，支持大语言模型推理、聊天界面、语音、智能体、工作流、RAG及图像生成。

一个Unity MCP服务器，允许MCP客户端（如Claude Desktop或Cursor）执行Unity编辑器操作。

为AI智能体提供记忆层。用无服务器、单文件记忆层替代复杂的RAG流程，赋予智能体即时检索与长期记忆能力。

本仓库提供从基础到高级的各类生成式AI智能体技术教程与实现，是构建智能交互式AI系统的综合指南

本仓库展示检索增强生成系统的多种先进技术，该系统通过结合信息检索与生成模型来提供精准且上下文丰富的响应

Google Cloud生成式AI示例代码与笔记本，含Vertex AI平台的Gemini模型应用。

O'Reilly书籍《动手玩转大语言模型》官方代码库

本代码库提供端到端的代码优先教程，涵盖生产级生成式AI智能体的每个层级，通过经过验证的模式和可复用的蓝图，指导您从创意火花到规模化部署，助力实际应用落地。

AgentScope Java：面向智能体编程的LLM应用构建框架

🔥企业级低代码平台集成AI应用平台，帮助企业快速实现低代码开发与AI应用构建！前后端分离架构采用SpringBoot、SpringCloud、Mybatis、Ant Design4、Vue0、TS+vite！强大的代码生成器实现前后端代码一键生成，无需编写任何代码！引领AI低代码开发模式：AI生成→OnlineCoding→代码生成→手工合并，显著提升效率同时保持灵活性~

专为Apple Silicon打造的原生LLM推理服务器，兼容OpenAI与Anthropic API，无需Python环境。包含基于MLX Core的macOS应用，支持聊天、智能体模式及工具调用功能。

AI 编排框架，用于构建可定制、生产就绪的 LLM 应用。将组件（模型、向量数据库、文件转换器）连接到可与数据交互的流水线或智能体。凭借高级检索方法，特别适用于构建 RAG、问答系统、语义搜索或对话式聊天机器人

数据中心级分布式推理服务框架

🦍 云原生API网关与AI网关。

OpenVINO™是用于优化和部署AI推理的开源工具套件

面向聊天、RAG、计划、MCP工具及智能体的AI客户端，支持多提供商模型。

远程MCP服务器能够安全地将Jira和Confluence与您选择的LLM、IDE或智能体平台相连接。

✨ AI 编程，Vim 风格

量化注意力机制相比FlashAttention和xformers实现了2-5倍和3-11倍的速度提升，且在语言、图像和视频模型上保持端到端指标无损。

RTP-LLM：阿里巴巴面向多样化应用的高性能大语言模型推理引擎。

cuVS - 一个用于GPU上的向量搜索与聚类的库