#llm 每日趋势报告

一个使用大语言模型从非结构化文本中提取结构化信息的Python库，具备精确的源数据溯源和交互式可视化功能。

一个使用大语言模型从非结构化文本中提取结构化信息的Python库，具备精确的源数据溯源和交互式可视化功能。

可通过 API 访问的免费大语言模型推理资源列表

面向AI的网页数据API——将整个网站转换为LLM就绪的Markdown或结构化数据🔥

关于大语言模型、检索增强生成及现实世界AI智能体应用的深度教程。

O'Reilly书籍《动手玩转大语言模型》官方代码库

O'Reilly书籍《动手玩转大语言模型》官方代码库

基于 AI 智能体和 RAG 技术的精选 LLM 应用集合，支持 OpenAI、Anthropic、Gemini 及开源模型

基于 AI 智能体和 RAG 技术的精选 LLM 应用集合，支持 OpenAI、Anthropic、Gemini 及开源模型

Giselle：免费、本地化、开源GUI应用，支持Gemini CLI、Claude Code、Codex、Qwen Code、Goose Cli、Auggie等——具备增强型聊天界面、WebUI、多智能体与多LLM支持、MCP集成 | 🌟 如果喜欢，欢迎点赞！

Giselle：免费、本地化、开源GUI应用，支持Gemini CLI、Claude Code、Codex、Qwen Code、Goose Cli、Auggie等——具备增强型聊天界面、WebUI、多智能体与多LLM支持、MCP集成 | 🌟 如果喜欢，欢迎点赞！

AI 驱动的多智能体构建平台

AI 驱动的多智能体构建平台

📚 《从零开始构建智能体》——从零开始的智能体原理与实践教程

流行聊天机器人系统提示词集合（含ChatGPT、Claude和Gemini等）

大语言模型微调与强化学习 🦥 以2倍速度训练OpenAI gpt-oss、Qwen3、Llama 4、DeepSeek-R1、Gemma 3，节省70%显存

大语言模型微调与强化学习 🦥 以2倍速度训练OpenAI gpt-oss、Qwen3、Llama 4、DeepSeek-R1、Gemma 3，节省70%显存

最快的LLM网关，性能超越LiteLLM达50倍，具备自适应负载均衡器、集群模式、防护机制，支持1000多种模型，在5k RPS下延迟低于100微秒

TypeScript AI智能体框架 ⚡ 支持助手、RAG和可观测性。兼容所有大语言模型：GPT-4、Claude、Gemini、Llama

21堂课带你入门生成式AI开发

主要记录大语言模型算法工程师相关的知识及面试题

Model compression toolkit engineered for enhanced usability, comprehensiveness, and efficiency.

🦍 云原生API网关与AI网关。

TensorZero是工业级LLM应用的开源技术栈，整合了LLM网关、可观测性、优化、评估与实验功能。

MNN是轻量级深度学习推理框架，经过阿里巴巴核心业务场景验证。全模态LLM安卓应用：[MNN-LLM-Android](./apps/Android/MnnLlmChat/README.md)。MNN淘 avatar安卓版 - 本地3D数字人智能：apps/Android/Mnn3dAvatar/README.md

AI 编排框架，用于构建可定制、生产就绪的 LLM 应用。将组件（模型、向量数据库、文件转换器）连接到可与数据交互的流水线或智能体。凭借高级检索方法，特别适用于构建 RAG、问答系统、语义搜索或对话式聊天机器人

✨ AI 编程，Vim 风格

Google Cloud生成式AI示例代码与笔记本，含Vertex AI平台的Gemini模型应用。

🔥企业级低代码平台集成AI应用平台，帮助企业快速实现低代码开发与AI应用构建！前后端分离架构采用SpringBoot、SpringCloud、Mybatis、Ant Design4、Vue0、TS+vite！强大的代码生成器实现前后端代码一键生成，无需编写任何代码！引领AI低代码开发模式：AI生成→OnlineCoding→代码生成→手工合并，显著提升效率同时保持灵活性~

具备无代理、性能集群、Prometheus兼容、自定义监控和状态页面构建能力的实时可观测性系统。

为OpenAI/Anthropic/Gemini/Bedrock/OpenRouter/DeepSeek/Ollama/VertexAI/Perplexity/Mistral/GPUStack及OpenAI兼容API提供统一的Ruby接口。支持聊天、视觉、音频、PDF、图像、嵌入、工具、流式传输及Rails集成。

ChatWiki 微信公众号的AI知识库工作流Agent平台，RAG大模型AI客服机器人，致力于成为垂直领域的coze、n8n。

SpargeAttention：一种免训练的稀疏注意力机制，可加速任何模型推理

RTP-LLM：阿里巴巴面向多样化应用的高性能大语言模型推理引擎。

官方 Microsoft Learn MCP 服务器——通过实时、可信的微软文档与代码示例为大型语言模型和人工智能代理提供支持。

量化注意力机制相比FlashAttention和xformers实现了2-5倍和3-11倍的速度提升，且在语言、图像和视频模型上保持端到端指标无损。

如何在CUDA中优化某些算法