#llm 每日趋势报告

面向Claude Code的本地知识图谱。构建代码库的持久化映射，使Claude仅读取关键内容——代码审查时减少6.8倍的令牌消耗，日常编码任务中最高可减少49倍。

面向Claude Code的本地知识图谱。构建代码库的持久化映射，使Claude仅读取关键内容——代码审查时减少6.8倍的令牌消耗，日常编码任务中最高可减少49倍。

学习它。构建它。为他人交付它。

学习它。构建它。为他人交付它。

使用单张4GB GPU实现AirLLM 70B推理

使用单张4GB GPU实现AirLLM 70B推理

📚 《从零开始构建智能体》——从零起步的智能体原理与实践教程

一种更快、更轻量、更廉价的沙箱替代方案。在隔离的Linux虚拟机中运行任意编码代理，并内置代理编排功能。

开箱即用的 AI 标书编写工具，AI 标书生成工具，投标工具箱、知识库、标书查重、废标项检查，完全开源免费，欢迎使用

Bonsai 演示

将您的PC、Mac或Linux设备转变为AI服务器，支持大语言模型推理、聊天界面、语音、智能体、工作流、RAG及图像生成。

一款轻量级、极速的进程内向量数据库

Context7 MCP 服务器 —— 面向大型语言模型与AI代码编辑器的实时代码文档平台 （注：根据技术文档翻译规范，MCP采用业界通用缩写形式保留原词，LLMs译为"大型语言模型"符合人工智能领域术语标准，整体表述既保持技术准确性又符合中文科技文档的简洁特征）

面向AI的数据转换框架。具备卓越性能，支持增量处理。如果喜欢请点亮星星！

🐙 提示工程指南、论文、讲座、笔记本及资源

本仓库展示检索增强生成系统的多种先进技术，该系统通过结合信息检索与生成模型来提供精准且上下文丰富的响应

一个Unity MCP服务器，允许MCP客户端（如Claude Desktop或Cursor）执行Unity编辑器操作。

🤖 开源免费的OpenAI、Claude及其他AI平台的替代方案。支持自主托管且本地优先，可作为OpenAI的即插即用替代方案运行于消费级硬件，无需GPU。兼容gguf、transformers、diffusers等多种模型架构。功能包括：文本生成、音频处理、视频制作、图像生成、语音克隆、分布式点对点推理。

终端中的DeepSeek v4编码智能体

本仓库提供从基础到高级的各类生成式AI智能体技术教程与实现，是构建智能交互式AI系统的综合指南

本代码库提供端到端的代码优先教程，涵盖生产级生成式AI智能体的每个层级，通过经过验证的模式和可复用的蓝图，指导您从创意火花到规模化部署，助力实际应用落地。

Lemonade 通过直接在用户自己的 GPU 和 NPU 上运行优化后的 LLM，帮助用户发现并运行本地 AI 应用。加入我们的 Discord：https://discord.gg/5xXzkMu8Zk

https://adongwanai.github.io/AgentGuide | AI智能体开发指南 | LangGraph实战 | 高级RAG | 转型大模型 | 大模型面试 | 算法工程师 | 面试题库 | 强化学习 | 数据合成

RikkaHub是一款支持多种LLM提供商的Android应用

构建并运行您能看见、理解且信任的智能体。

Mooncake是Moonshot AI旗下领先大语言模型服务Kimi的部署平台。

企业级智能体驱动 RAG 系统 - 完整覆盖文档解析、多路检索、意图识别、问题重写、会话记忆、MCP 工具调用与深度推理全链路。

AI 编排框架，用于构建可定制、生产就绪的 LLM 应用。将组件（模型、向量数据库、文件转换器）连接到可与数据交互的流水线或智能体。凭借高级检索方法，特别适用于构建 RAG、问答系统、语义搜索或对话式聊天机器人

《开源大模型食用指南》针对中国开发者定制的Linux环境快速微调（全参数/Lora）、部署国内外开源大模型（LLM）/多模态大模型（MLLM）教程

开箱即用的云端模板，支持RAG、AI流水线及实时数据企业搜索。🐳兼容Docker容器部署。⚡始终与SharePoint、Google Drive、S3、Kafka、PostgreSQL、实时数据API等平台保持同步。

专为Apple Silicon打造的原生LLM推理服务器，兼容OpenAI与Anthropic API，无需Python环境。包含基于MLX Core的macOS应用，支持聊天、智能体模式及工具调用功能。

LangChain的Java实现版本

🦍 云原生API网关与AI网关。

快速轻松地将尖端LLM技术集成到您的应用中。

💃 在代码中与智能共舞。Minuet提供实时代码补全功能，支持OpenAI、Gemini、Claude、Ollama、Llama.cpp、Codestral等主流大型语言模型。

🤘 TT-NN算子库与TT-Metalium底层内核编程模型

为E2B云提供动力的基础设施。

RTP-LLM：阿里巴巴面向多样化应用的高性能大语言模型推理引擎。

RAFT 包含用于机器学习和信息检索的基础性、广泛使用的算法与原语。这些算法经过 CUDA 加速，构成了更轻松编写高性能应用程序的构建模块。

量化注意力机制相比FlashAttention和xformers实现了2-5倍和3-11倍的速度提升，且在语言、图像和视频模型上保持端到端指标无损。

cuVS - 一个用于GPU上的向量搜索与聚类的库

🪢 Langfuse 文档 —— Langfuse 是开源的 LLM 工程平台。提供可观测性、评估、提示词管理、游乐场和指标功能，用于调试和改进 LLM 应用