OpenAI Whisper模型的C/C++移植版本

面向直播与流媒体的跨平台可定制机器学习解决方案

MNN是轻量级深度学习推理框架，经过阿里巴巴核心业务场景验证。全模态LLM安卓应用：[MNN-LLM-Android](./apps/Android/MnnLlmChat/README.md)。MNN淘 avatar安卓版 - 本地3D数字人智能：apps/Android/Mnn3dAvatar/README.md

NVIDIA® TensorRT™是用于NVIDIA GPU高性能深度学习推理的SDK，本仓库包含其开源组件

OpenVINO™是用于优化和部署AI推理的开源工具套件

面向大语言模型的高吞吐量与内存优化型推理服务引擎

SGLang是面向大语言模型与视觉语言模型的高速推理框架。

欢迎来到Llama实践指南！这是您使用Llama进行开发的必备指南：涵盖推理入门、微调及RAG技术。我们还将展示如何利用Llama模型家族解决端到端问题，并在不同云服务平台上进行部署

开始使用OpenAI gpt-oss、DeepSeek-R1、Gemma 3及其他模型。

🤗 Transformers：面向文本、视觉、音频及多模态模型的尖端机器学习模型定义框架，支持推理与训练全流程。

又名Awesome ChatGPT提示词库。分享、发现并收集来自社区的提示词。免费开源——为您的组织提供完全隐私的自托管服务。

面向智能体工作流开发的生产就绪平台。

用户友好型AI交互界面（支持Ollama、OpenAI API等）

面向AI的网页数据API——将整个网站转换为LLM就绪的Markdown或结构化数据🔥

🌐 让网站可供AI智能体访问。轻松实现在线任务自动化。

开箱即用的云端模板，支持RAG、AI流水线及实时数据企业搜索。🐳兼容Docker容器部署。⚡始终与SharePoint、Google Drive、S3、Kafka、PostgreSQL、实时数据API等平台保持同步。

内置RAG、AI智能体、无代码智能体构建器、MCP兼容等功能的桌面与Docker一体化AI应用

大语言模型微调与强化学习 🦥 以2倍速度训练OpenAI gpt-oss、Qwen3、Llama 4、DeepSeek-R1、Gemma 3，节省70%显存

🎯 告别信息过载，只获取真正关心的资讯——多平台热点聚合工具，一键监控今日头条、百度热搜、微博、抖音、知乎、B站等35个平台，智能关键词筛选，自动生成热点分析报告。支持企业微信、飞书、钉钉、Telegram推送，30秒完成网页部署，1分钟实现手机通知，无需编程基础。同时支持Docker私有化部署⭐ 让算法为您服务，而非被算法绑架

AI 智能体通用记忆层 - 隆重推出 OpenMemory MCP，提供本地化安全内存管理