llm

🪢 开源LLM工程平台：LLM可观测性、指标评估、提示管理、游乐场、数据集。与OpenTelemetry、Langchain、OpenAI SDK、LiteLLM等工具集成。🍊YC W23

FastGPT是基于大语言模型构建的知识平台，提供数据处理、RAG检索和可视化AI工作流编排等开箱即用的完整功能，让您无需繁琐设置即可轻松开发和部署复杂问答系统。

快速轻松地将尖端LLM技术集成到您的应用中。

SGLang是面向大语言模型与视觉语言模型的高速推理框架。

本仓库展示检索增强生成系统的多种先进技术，该系统通过结合信息检索与生成模型来提供精准且上下文丰富的响应

Composio提供1000多种工具包、工具搜索、上下文管理、身份验证以及沙盒化工作台，助您构建能将意图转化为行动的AI智能体。

使用Gitleaks 🔑 发现密钥 （注：根据技术文档惯例，"secrets"在此语境中指代密钥、凭证等敏感信息，采用"密钥"译法符合行业标准；保留工具名称"Gitleaks"不译；添加"使用"二字使中文表达更完整自然；表情符号位置根据中文阅读习惯调整）

数百种模型与提供商。一条命令即可找出可在您硬件上运行的内容。

O'Reilly书籍《动手玩转大语言模型》官方代码库

面向AI应用的开源搜索与检索数据库。

一个汇集生成式人工智能研究动态、面试资源、代码笔记本等丰富内容的一站式资源库！

构建并运行您能看见、理解且信任的智能体。

一个轻量级、强大的多智能体工作流框架

构建AI/大语言模型应用的开源开发者平台，提供端到端追踪、可观测性与评估功能的一体化集成平台

Giselle：免费、本地化、开源GUI应用，支持Gemini CLI、Claude Code、Codex、Qwen Code、Goose Cli、Auggie等——具备增强型聊天界面、WebUI、多智能体与多LLM支持、MCP集成 | 🌟 如果喜欢，欢迎点赞！

AI 编排框架，用于构建可定制、生产就绪的 LLM 应用。将组件（模型、向量数据库、文件转换器）连接到可与数据交互的流水线或智能体。凭借高级检索方法，特别适用于构建 RAG、问答系统、语义搜索或对话式聊天机器人

📦 Repomix 是一款强大工具，可将您的整个代码库打包成单一且适配 AI 处理的文件。非常适合需要将代码库输入大型语言模型或其他 AI 工具的场景，例如 Claude、ChatGPT、DeepSeek、Perplexity、Gemini、Gemma、Llama、Grok 等。

一个基于RAG的开源工具，用于与您的文档进行对话。

完全本地的Manus人工智能系统。无需API接口，无需每月200美元支出。仅需支付电费即可体验能思考、浏览网页和编程的自主智能体。官方更新仅通过推特账号@Martin993886460发布

一个能够利用任何大型语言模型提供商对任意数据进行深度研究的自主智能体。

🚀 构建MCP服务器与客户端的快速、Pythonic实现方式。

OpenViking 是一款专为 AI 智能体（如 openclaw）设计的开源上下文数据库。它通过文件系统范式统一管理智能体所需的上下文（记忆、资源与技能），实现分层上下文传递与自我进化。

您最喜爱的终端中魅力非凡的AI编程助手💘

用单个文件分发和运行大语言模型。