#llm 每周趋势报告

📄🧠 PageIndex：基于推理的RAG文档索引系统 （注：根据技术文档翻译规范，RAG保持英文缩写形式，因其在人工智能领域作为"Retrieval-Augmented Generation"的专有术语已被广泛接受；"Reasoning-based"采用"基于推理的"标准译法，准确体现技术特性；整体表述保持项目描述的专业性与简洁性）

📄🧠 PageIndex：基于推理的RAG文档索引系统 （注：根据技术文档翻译规范，RAG保持英文缩写形式，因其在人工智能领域作为"Retrieval-Augmented Generation"的专有术语已被广泛接受；"Reasoning-based"采用"基于推理的"标准译法，准确体现技术特性；整体表述保持项目描述的专业性与简洁性）

可在本地运行AI的生产就绪工具包

点亮AI智能体的终极训练器

流行聊天机器人系统提示词集合（含ChatGPT、Claude和Gemini等）

一款提示词优化工具，致力于协助编写高质量提示词

开始使用OpenAI gpt-oss、DeepSeek-R1、Gemma 3及其他模型。

使用单张4GB GPU实现AirLLM 70B推理

⚡️ GenBI（生成式商业智能）支持使用自然语言查询任意数据库，可在数秒内生成精准的SQL（文本转SQL）、图表（文本转图表）及基于人工智能的深度洞察。

研发对于提升工业生产力至关重要，尤其在AI时代，其核心聚焦于数据与模型。我们致力于通过R&D-Agent自动化这些高价值的通用研发流程，让人工智能驱动数据驱动的AI研究。🔗https://aka.ms/RD-Agent-Tech-Report

🐙 提示工程指南、论文、讲座、笔记本及资源

专为大语言模型微调数据集打造的强大工具

AxonHub是一个现代化的AI网关系统，提供统一的OpenAI、Anthropic、Gemini及AI SDK兼容API接口

原生支持Apple Silicon的LLM服务器，具备MCP支持。

专为语言学习打造的媒体播放器，具备双语字幕、AI生成字幕、实时翻译等功能！

本仓库提供从基础到高级的各类生成式AI智能体技术教程与实现，是构建智能交互式AI系统的综合指南

视觉化解读 Transformer：通过交互式可视化学习 LLM Transformer 模型工作原理

GPT4All：在任何设备上运行本地大语言模型。开源且可商用。

AI 编排框架，用于构建可定制、生产就绪的 LLM 应用。将组件（模型、向量数据库、文件转换器）连接到可与数据交互的流水线或智能体。凭借高级检索方法，特别适用于构建 RAG、问答系统、语义搜索或对话式聊天机器人

llama.cpp（或任何兼容本地OpenAI API的服务器）的模型热替换

🦍 云原生API网关与AI网关。

在手机、可穿戴设备及AI原生硬件上本地运行人工智能

基于Flutter框架的LLM聊天客户端，支持Android、iOS及Harmony Next系统。

大语言模型漏洞扫描器

✨ AI 编程，Vim 风格

为OpenAI/Anthropic/Gemini/Bedrock/OpenRouter/DeepSeek/Ollama/VertexAI/Perplexity/Mistral/GPUStack及OpenAI兼容API提供统一的Ruby接口。支持聊天、视觉、音频、PDF、图像、嵌入、工具、流式传输及Rails集成。

量化注意力机制相比FlashAttention和xformers实现了2-5倍和3-11倍的速度提升，且在语言、图像和视频模型上保持端到端指标无损。

欢迎来到Llama实践指南！这是您使用Llama进行开发的必备指南：涵盖推理入门、微调及RAG技术。我们还将展示如何利用Llama模型家族解决端到端问题，并在不同云服务平台上进行部署

如何在CUDA中优化某些算法

官方 Microsoft Learn MCP 服务器——通过实时、可信的微软文档与代码示例为大型语言模型和人工智能代理提供支持。

LLM辅助代码/文本补全的Vim插件

RTP-LLM：阿里巴巴面向多样化应用的高性能大语言模型推理引擎。