#llm 每日趋势报告

在终端中运行的DeepSeek模型编码代理

在终端中运行的DeepSeek模型编码代理

📄🧠 PageIndex：基于推理的RAG文档索引系统 （注：根据技术文档翻译规范，RAG保持英文缩写形式，因其在人工智能领域作为"Retrieval-Augmented Generation"的专有术语已被广泛接受；"Reasoning-based"采用"基于推理的"标准译法，准确体现技术特性；整体表述保持项目描述的专业性与简洁性）

📄🧠 PageIndex：基于推理的RAG文档索引系统 （注：根据技术文档翻译规范，RAG保持英文缩写形式，因其在人工智能领域作为"Retrieval-Augmented Generation"的专有术语已被广泛接受；"Reasoning-based"采用"基于推理的"标准译法，准确体现技术特性；整体表述保持项目描述的专业性与简洁性）

一款CLI代理工具，可将常见开发命令的LLM令牌消耗降低60-90%

可通过 API 访问的免费大语言模型推理资源列表

Local Deep Research 在 SimpleQA 基准测试中达到约 95% 准确率（使用 GPT-4.1-mini 测试）。支持本地及云端大语言模型（Ollama、Google、Anthropic 等）。可搜索 10 余种来源——包括 arXiv、PubMed、网络及您的私人文档。所有流程均在本地加密运行。

Local Deep Research 在 SimpleQA 基准测试中达到约 95% 准确率（使用 GPT-4.1-mini 测试）。支持本地及云端大语言模型（Ollama、Google、Anthropic 等）。可搜索 10 余种来源——包括 arXiv、PubMed、网络及您的私人文档。所有流程均在本地加密运行。

Bash 就是你的全部所需！仅用 16 行代码编写一个 Claude 程序

面向智能体工作流开发的生产就绪平台。

适用于Claude Code、Codex、Cursor的通用AI代理 | 支持OpenAI、Claude、Gemini、Copilot

适用于Claude Code、Codex、Cursor的通用AI代理 | 支持OpenAI、Claude、Gemini、Copilot

展示RAG、智能体、工作流及其他AI应用场景的项目合集

OmniRoute是一个面向多供应商大语言模型的AI网关：它提供兼容OpenAI的端点，具备智能路由、负载均衡、重试和故障转移功能。

使用PyTorch从零开始逐步实现类ChatGPT大型语言模型

一个Unity MCP服务器，允许MCP客户端（如Claude Desktop或Cursor）执行Unity编辑器操作。

从零开始的大语言模型原理与实践教程

基于大语言模型的深度文档理解框架，支持使用 RAG 范式实现语义检索和上下文感知应答。

开源智能体操作系统

21堂课带你入门生成式AI开发

MLX-VLM：基于MLX在Mac上进行视觉语言模型推理与微调的工具包

🐙 提示工程指南、论文、讲座、笔记本及资源

关于大语言模型、检索增强生成及现实世界AI智能体应用的深度教程。

https://adongwanai.github.io/AgentGuide | AI智能体开发指南 | LangGraph实战 | 高级RAG | 转型大模型 | 大模型面试 | 算法工程师 | 面试题库 | 强化学习 | 数据合成

O'Reilly书籍《动手玩转大语言模型》官方代码库

内核强制的智能体沙箱。基于能力的隔离机制，配备安全密钥管理、原子化回滚以及加密不可变的来源审计链。在零信任环境中运行您的智能体。

与任意大语言模型进行免提语音交互、语音打断，并支持跨平台本地运行的Live2D虚拟形象

企业级智能体驱动 RAG 系统 - 完整覆盖文档解析、多路检索、意图识别、问题重写、会话记忆、MCP 工具调用与深度推理全链路。

🚀 从聊天记录创建AI数字分身的一站式解决方案 💡 利用聊天日志微调大语言模型以捕捉你的独特风格，再绑定至聊天机器人，让数字自我活起来

FastGPT是基于大语言模型构建的知识平台，提供数据处理、RAG检索和可视化AI工作流编排等开箱即用的完整功能，让您无需繁琐设置即可轻松开发和部署复杂问答系统。

程序员技能图谱

🦍 云原生API网关与AI网关。

主要记录大语言模型算法工程师相关的知识及面试题

✍ 微信Markdown编辑器 | 一款高度简洁的微信Markdown编辑器：支持Markdown语法、自定义主题样式、内容管理、多图床、AI助手等特性

AgentScope Java：面向智能体编程的LLM应用构建框架

为OpenAI/Anthropic/Gemini/Bedrock/OpenRouter/DeepSeek/Ollama/VertexAI/Perplexity/Mistral/GPUStack及OpenAI兼容API提供统一的Ruby接口。支持聊天、视觉、音频、PDF、图像、嵌入、工具、流式传输及Rails集成。

Koog是官方Kotlin框架，用于在所有平台上构建和运行稳健、可扩展且满足生产就绪要求的AI智能体——从后端服务到Android与iOS、JVM乃至浏览器环境均可部署。该框架基于我们在AI产品领域的专业经验，针对复杂的LLM与人工智能问题提供了经过实践验证的解决方案。

AI 编排框架，用于构建可定制、生产就绪的 LLM 应用。将组件（模型、向量数据库、文件转换器）连接到可与数据交互的流水线或智能体。凭借高级检索方法，特别适用于构建 RAG、问答系统、语义搜索或对话式聊天机器人

Burp Suite扩展，内置MCP工具、AI辅助分析、隐私控制、被动与主动扫描等功能

开源代码优先的 Java 工具包，用于灵活可控地构建、评估和部署复杂 AI 智能体

为E2B云提供动力的基础设施。

🤘 TT-NN算子库与TT-Metalium底层内核编程模型

面向多模态AI的开放式湖仓格式。仅需两行代码即可从Parquet转换，实现百倍速随机访问、向量索引与数据版本管理。兼容Pandas、DuckDB、Polars、Pyarrow及PyTorch，并持续扩展集成生态。

如何在CUDA中优化某些算法

量化注意力机制相比FlashAttention和xformers实现了2-5倍和3-11倍的速度提升，且在语言、图像和视频模型上保持端到端指标无损。

🪢 Langfuse 文档 —— Langfuse 是开源的 LLM 工程平台。提供可观测性、评估、提示词管理、游乐场和指标功能，用于调试和改进 LLM 应用

RTP-LLM：阿里巴巴面向多样化应用的高性能大语言模型推理引擎。

编辑器代码助手——与编辑器无关的AI结对编程功能

一种提示工程函数式编程语言

Lux是由Spectral Labs开发的开源框架，用于构建多智能体集群智能系统。通过Beams、Prisms、Lenses和Signals等组件，它编排AI驱动的工作流，以创建真正自主的组织。