#llm 每日趋势报告

使用单张4GB GPU实现AirLLM 70B推理

使用单张4GB GPU实现AirLLM 70B推理

TypeScript AI智能体框架 ⚡ 支持助手、RAG和可观测性。兼容所有大语言模型：GPT-4、Claude、Gemini、Llama

基于 AI 智能体和 RAG 技术的精选 LLM 应用集合，支持 OpenAI、Anthropic、Gemini 及开源模型

🌐 让网站可供AI智能体访问。轻松实现在线任务自动化。

🌐 让网站可供AI智能体访问。轻松实现在线任务自动化。

面向大语言模型的高吞吐量与内存优化型推理服务引擎

开始使用OpenAI gpt-oss、DeepSeek-R1、Gemma 3及其他模型。

UltraRAG v3：一个用于构建复杂创新RAG管道的低代码MCP框架

UltraRAG v3：一个用于构建复杂创新RAG管道的低代码MCP框架

可在本地运行AI的生产就绪工具包

21堂课带你入门生成式AI开发

从零开始的大语言模型原理与实践教程

内置RAG、AI智能体、无代码智能体构建器、MCP兼容等功能的桌面与Docker一体化AI应用

企业级、商业友好的智能体工作流平台，用于构建下一代超级智能体。

《开源大模型食用指南》针对中国开发者定制的Linux环境快速微调（全参数/Lora）、部署国内外开源大模型（LLM）/多模态大模型（MLLM）教程

DeerFlow是一个社区驱动的深度研究框架，将语言模型与网络搜索、爬取及Python执行等工具相结合，同时回馈开源社区。

🐙 提示工程指南、论文、讲座、笔记本及资源

学习运用大语言模型、智能体、检索增强生成、微调、大语言模型运维与人工智能系统技术，构建你的第二大脑AI助手。

LangChain的Java实现版本

程序员技能图谱

AI 编排框架，用于构建可定制、生产就绪的 LLM 应用。将组件（模型、向量数据库、文件转换器）连接到可与数据交互的流水线或智能体。凭借高级检索方法，特别适用于构建 RAG、问答系统、语义搜索或对话式聊天机器人

面向开发者的LLM入门教程，吴恩达大模型系列课程中文版

LLM辅助代码/文本补全的Vim插件

AI辅助长篇小说创作工具，采用卡片式创作模式，支持基于JSON Schema的结构化AI生成与上下文引用，具备高度可扩展性。

Koog是官方Kotlin框架，用于在所有平台上构建和运行稳健、可扩展且满足生产就绪要求的AI智能体——从后端服务到Android与iOS、JVM乃至浏览器环境均可部署。该框架基于我们在AI产品领域的专业经验，针对复杂的LLM与人工智能问题提供了经过实践验证的解决方案。

✨ AI 编程，Vim 风格

官方 Microsoft Learn MCP 服务器——通过实时、可信的微软文档与代码示例为大型语言模型和人工智能代理提供支持。

如何在CUDA中优化某些算法

RTP-LLM：阿里巴巴面向多样化应用的高性能大语言模型推理引擎。

量化注意力机制相比FlashAttention和xformers实现了2-5倍和3-11倍的速度提升，且在语言、图像和视频模型上保持端到端指标无损。

cuVS - GPU向量搜索与聚类计算库

一种提示工程函数式编程语言