#llm 每日趋势报告

一个使用大语言模型从非结构化文本中提取结构化信息的Python库，具备精确的源数据溯源和交互式可视化功能。

AI 驱动的多智能体构建平台

可通过 API 访问的免费大语言模型推理资源列表

可通过 API 访问的免费大语言模型推理资源列表

O'Reilly书籍《动手玩转大语言模型》官方代码库

O'Reilly书籍《动手玩转大语言模型》官方代码库

流行聊天机器人系统提示词集合（含ChatGPT、Claude和Gemini等）

关于大语言模型、检索增强生成及现实世界AI智能体应用的深度教程。

关于大语言模型、检索增强生成及现实世界AI智能体应用的深度教程。

开箱即用的云端模板，支持RAG、AI流水线及实时数据企业搜索。🐳兼容Docker容器部署。⚡始终与SharePoint、Google Drive、S3、Kafka、PostgreSQL、实时数据API等平台保持同步。

您最喜爱的终端中魅力非凡的AI编程助手💘

🐙 提示工程指南、论文、讲座、笔记本及资源

《开源大模型食用指南》针对中国开发者定制的Linux环境快速微调（全参数/Lora）、部署国内外开源大模型（LLM）/多模态大模型（MLLM）教程

通过模型上下文协议将大型语言模型与高级AI智能体连接至Unity编辑器的AI桥梁。可直接在项目中与AI对话生成代码、调试错误并自动化游戏开发任务

🦍 云原生API网关与AI网关。

AI 编排框架，用于构建可定制、生产就绪的 LLM 应用。将组件（模型、向量数据库、文件转换器）连接到可与数据交互的流水线或智能体。凭借高级检索方法，特别适用于构建 RAG、问答系统、语义搜索或对话式聊天机器人

AI可观测性与评估体系。

Android平台最强大的人工智能助手与AI聊天软件

面向AI的数据转换框架。具备卓越性能，支持增量处理。如果喜欢请点亮星星！

✨ AI 编程，Vim 风格

Google Cloud生成式AI示例代码与笔记本，含Vertex AI平台的Gemini模型应用。

轻松将文档转换为结构化数据。Unstructured是开源的ETL解决方案，可将复杂文档转换为适合语言模型的整洁结构化格式。访问我们的网站了解企业级平台产品，支持生产级工作流、分区、增强、分块和嵌入。

用于在AI应用中运行AI生成代码/代码解释的Python和JS/TS SDK。

专为多种AI加速器优化的大语言模型高性能推理引擎。

大语言模型漏洞扫描器

🤘 TT-NN算子库与TT-Metalium底层内核编程模型

面向加速基础设施与微服务架构优化的生成式AI参考工作流

cuVS - GPU向量搜索与聚类计算库

SpargeAttention：一种免训练的稀疏注意力机制，可加速任何模型推理

RTP-LLM：阿里巴巴面向多样化应用的高性能大语言模型推理引擎。