#llm 每日趋势报告

📄🧠 PageIndex：基于推理的RAG文档索引系统 （注：根据技术文档翻译规范，RAG保持英文缩写形式，因其在人工智能领域作为"Retrieval-Augmented Generation"的专有术语已被广泛接受；"Reasoning-based"采用"基于推理的"标准译法，准确体现技术特性；整体表述保持项目描述的专业性与简洁性）

开箱即用的云端模板，支持RAG、AI流水线及实时数据企业搜索。🐳兼容Docker容器部署。⚡始终与SharePoint、Google Drive、S3、Kafka、PostgreSQL、实时数据API等平台保持同步。

使用单张4GB GPU实现AirLLM 70B推理

基于 AI 智能体和 RAG 技术的精选 LLM 应用集合，支持 OpenAI、Anthropic、Gemini 及开源模型

基于 AI 智能体和 RAG 技术的精选 LLM 应用集合，支持 OpenAI、Anthropic、Gemini 及开源模型

流行聊天机器人系统提示词集合（含ChatGPT、Claude和Gemini等）

面向智能体工作流开发的生产就绪平台。

📚 《从零开始构建智能体》——从零开始的智能体原理与实践教程

基于大语言模型的深度文档理解框架，支持使用 RAG 范式实现语义检索和上下文感知应答。

🐙 提示工程指南、论文、讲座、笔记本及资源

一个Unity MCP服务器，允许MCP客户端（如Claude Desktop或Cursor）执行Unity编辑器操作。

本仓库提供从基础到高级的各类生成式AI智能体技术教程与实现，是构建智能交互式AI系统的综合指南

Go语言终极LLM/AI应用开发框架

本仓库展示检索增强生成系统的多种先进技术，该系统通过结合信息检索与生成模型来提供精准且上下文丰富的响应

AgentScope Java：面向智能体编程的LLM应用构建框架

主要记录大语言模型算法工程师相关的知识及面试题

LangChain的Java实现版本

一款免费开源、基于人工智能的自托管实时会议记录与纪要生成工具，可完全在本地设备运行（已支持Mac OS和Windows系统，即将新增Linux支持）https://meetily.zackriya.com/ 这就是meetly ai

FlashInfer：大语言模型服务的核心计算库

为企业级智能体提供包含真实工具的开源安全环境。

AI 编排框架，用于构建可定制、生产就绪的 LLM 应用。将组件（模型、向量数据库、文件转换器）连接到可与数据交互的流水线或智能体。凭借高级检索方法，特别适用于构建 RAG、问答系统、语义搜索或对话式聊天机器人

🦍 云原生API网关与AI网关。

✨ AI 编程，Vim 风格

量化注意力机制相比FlashAttention和xformers实现了2-5倍和3-11倍的速度提升，且在语言、图像和视频模型上保持端到端指标无损。

SpargeAttention：一种免训练的稀疏注意力机制，可加速任何模型推理

RTP-LLM：阿里巴巴面向多样化应用的高性能大语言模型推理引擎。