#llm 每日趋势报告

面向Claude Code的本地知识图谱。构建代码库的持久化映射，使Claude仅读取关键内容——代码审查时减少6.8倍的令牌消耗，日常编码任务中最高可减少49倍。

面向Claude Code的本地知识图谱。构建代码库的持久化映射，使Claude仅读取关键内容——代码审查时减少6.8倍的令牌消耗，日常编码任务中最高可减少49倍。

OmniRoute是一个面向多供应商大语言模型的AI网关：它提供兼容OpenAI的端点，具备智能路由、负载均衡、重试和故障转移功能。

OmniRoute是一个面向多供应商大语言模型的AI网关：它提供兼容OpenAI的端点，具备智能路由、负载均衡、重试和故障转移功能。

学习它。构建它。为他人交付它。

学习它。构建它。为他人交付它。

编码智能体框架

编码智能体框架

智能体性能优化系统。为Claude Code、Codex、Opencode、Cursor等工具提供技能、本能、记忆、安全及研究优先的开发支持。

⚡️ GenBI（生成式商业智能）支持使用自然语言查询任意数据库，可在数秒内生成精准的SQL（文本转SQL）、图表（文本转图表）及基于人工智能的深度洞察。

集成多款即时通讯平台、大语言模型、插件及AI功能的智能聊天机器人基础设施，可作为OpenClaw的替代方案。✨

集成多款即时通讯平台、大语言模型、插件及AI功能的智能聊天机器人基础设施，可作为OpenClaw的替代方案。✨

数百种模型与提供商。一条命令即可找出可在您硬件上运行的内容。

使用单张4GB GPU实现AirLLM 70B推理

企业级、商业友好的智能体工作流平台，用于构建下一代超级智能体。

🚀 构建MCP服务器与客户端的快速、Pythonic实现方式。

🚀 构建MCP服务器与客户端的快速、Pythonic实现方式。

我们应该遵循哪些原则来构建基于大语言模型的软件，使其真正达到可交付生产环境用户使用的标准？

🌐 开源智能体浏览器；ChatGPT Atlas、Perplexity Comet、Dia 的替代方案。

您最喜爱的终端中魅力非凡的AI编程助手💘

面向AI的数据转换框架。具备卓越性能，支持增量处理。如果喜欢请点亮星星！

🤖 开源免费的OpenAI、Claude及其他AI平台的替代方案。支持自主托管且本地优先，可作为OpenAI的即插即用替代方案运行于消费级硬件，无需GPU。兼容gguf、transformers、diffusers等多种模型架构。功能包括：文本生成、音频处理、视频制作、图像生成、语音克隆、分布式点对点推理。

一个Unity MCP服务器，允许MCP客户端（如Claude Desktop或Cursor）执行Unity编辑器操作。

Google Cloud生成式AI示例代码与笔记本，含Vertex AI平台的Gemini模型应用。

O'Reilly书籍《动手玩转大语言模型》官方代码库

llama.cpp（或任何兼容本地OpenAI API的服务器）的模型热替换

关于大语言模型、检索增强生成及现实世界AI智能体应用的深度教程。

AI 后端框架。像构建微服务一样构建和运行 AI 智能体——从一开始就具备可扩展性、可观测性和身份感知能力。

18个AI角色在多个大语言模型提供商之间为你权衡最艰难的决策。亚里士多德、费曼、卡尼曼、托瓦兹等——具备真正模型多样性的结构化多轮讨论。一条命令：/council

AI 编排框架，用于构建可定制、生产就绪的 LLM 应用。将组件（模型、向量数据库、文件转换器）连接到可与数据交互的流水线或智能体。凭借高级检索方法，特别适用于构建 RAG、问答系统、语义搜索或对话式聊天机器人

开源异步编程智能体

自托管AI编程助手

专为Apple Silicon打造的原生LLM推理服务器，兼容OpenAI与Anthropic API，无需Python环境。包含基于MLX Core的macOS应用，支持聊天、智能体模式及工具调用功能。

具备容错能力、高度可扩展的GPU编排系统，以及专为训练数十亿至数万亿参数模型设计的机器学习框架

基于GEP驱动的AI智能体自进化引擎。基因组进化协议。| evomap.ai

最佳多智能体论文汇编

量化注意力机制相比FlashAttention和xformers实现了2-5倍和3-11倍的速度提升，且在语言、图像和视频模型上保持端到端指标无损。

RTP-LLM：阿里巴巴面向多样化应用的高性能大语言模型推理引擎。

新版API v1官方文档

cuVS - 一个用于GPU上的向量搜索与聚类的库

🪢 Langfuse 文档 —— Langfuse 是开源的 LLM 工程平台。提供可观测性、评估、提示词管理、游乐场和指标功能，用于调试和改进 LLM 应用

RAFT 包含用于机器学习和信息检索的基础性、广泛使用的算法与原语。这些算法经过 CUDA 加速，构成了更轻松编写高性能应用程序的构建模块。