TensorZero是工业级LLM应用的开源技术栈，整合了LLM网关、可观测性、优化、评估与实验功能。

毕昇是面向新一代企业AI应用的开源大语言模型运维平台，提供强大全面的功能：GenAI工作流、RAG、智能体、统一模型管理、评估监督、监督微调、数据集管理、企业级系统管理、可观测性等

面向大语言模型的高吞吐量与内存优化型推理服务引擎

LangChain的Java实现版本

SGLang是面向大语言模型与视觉语言模型的高速推理框架。

测试您的提示词、智能体和检索增强生成系统。针对大语言模型的红队测试、渗透测试与漏洞扫描。对比GPT、Claude、Gemini、Llama等模型的性能表现。支持命令行与CI/CD集成的简易声明式配置。

通过全面的追踪、自动化评估和生产就绪的仪表盘，调试、评估并监控您的LLM应用、RAG系统和智能体工作流。

ARIS ⚔️（自动睡眠研究）——仅需 Markdown 的轻量级自主机器学习研究技能：跨模型评审循环、想法发现与实验自动化。无框架、无锁定——兼容 Claude Code、Codex、OpenClaw 或任意 LLM 智能体。

可通过 API 访问的免费大语言模型推理资源列表

使用单张4GB GPU实现AirLLM 70B推理

欢迎来到Llama实践指南！这是您使用Llama进行开发的必备指南：涵盖推理入门、微调及RAG技术。我们还将展示如何利用Llama模型家族解决端到端问题，并在不同云服务平台上进行部署

使用PEFT或全参数方法对500余个大语言模型和200余个多模态大语言模型进行CPT/SFT/DPO/GRPO训练

百款大语言模型与视觉语言模型的统一高效微调框架（ACL 2024）

集成多款即时通讯平台、大语言模型、插件及AI功能的智能聊天机器人基础设施，可作为OpenClaw的替代方案。✨

📦 Repomix 是一款强大工具，可将您的整个代码库打包成单一且适配 AI 处理的文件。非常适合需要将代码库输入大型语言模型或其他 AI 工具的场景，例如 Claude、ChatGPT、DeepSeek、Perplexity、Gemini、Gemma、Llama、Grok 等。

互联网公司技术架构，涵盖微信、淘宝、微博、腾讯、阿里、美团点评、百度、OpenAI、Google、Facebook、Amazon、eBay，欢迎提交PR补充

从零到一的氛围编程 ｜ vibecoding 零基础教程 ｜ 产品原型设计、AI 能力集成、前后端开发、多平台应用开发教程

程序员鱼皮的 AI 资源大全与 Vibe Coding 零基础教程，提供大模型选择指南、最新 AI 资讯、Prompt 提示词大全、AI 知识百科、AI 编程教程、AI 工具使用指南、AI 开发框架教程以及 AI 产品变现指南，助你快速掌握 AI 技术，保持行业领先。本项目为开源文档版本，已升级为鱼皮 AI 导航网站。

为企业级智能体提供包含真实工具的开源安全环境。

开箱即用的云端模板，支持RAG、AI流水线及实时数据企业搜索。🐳兼容Docker容器部署。⚡始终与SharePoint、Google Drive、S3、Kafka、PostgreSQL、实时数据API等平台保持同步。