项目竞品项目
Portkey-AI/gateway
一个集成了防护机制的极速AI网关,通过一个快速友好的API路由至200多个大型语言模型和50多个AI防护机制。
casdoor/casdoor
开源UI优先的身份与访问管理平台/单点登录平台,提供支持OAuth 0、OIDC、SAML、CAS、LDAP、SCIM、WebAuthn、TOTP、MFA、Face ID、RADIUS、Google Workspace、Active Directory及Kerberos的Web用户界面。
BerriAI/litellm
Python SDK及代理服务器(LLM网关):支持以OpenAI格式调用100+LLM API——涵盖Bedrock、Azure、OpenAI、VertexAI、Cohere、Anthropic、Sagemaker、HuggingFace、Replicate、Groq等平台
0x4m4/hexstrike-ai
HexStrike AI MCP代理服务器是一款高级MCP服务器,支持AI代理(Claude、GPT、Copilot等)自主运行150多种网络安全工具,实现自动化渗透测试、漏洞发现、漏洞赏金自动化和安全研究。无缝连接大语言模型与现实世界攻击性安全能力。
Kong/kong
🦍 云原生API网关与AI网关。
microsoft/mcp-for-beginners
本开源课程通过 .NET、Java、TypeScript、JavaScript、Rust 和 Python 的跨语言实战案例,系统介绍模型上下文协议(MCP)核心原理。专为开发者设计,重点讲解从会话建立到服务编排过程中构建模块化、可扩展且安全 AI 工作流的实用技术。
awslabs/mcp
AWS MCP服务器——帮助您在任意使用MCP的环境中最大化发挥AWS效能。
Tencent/WeKnora
基于大语言模型的深度文档理解框架,支持使用 RAG 范式实现语义检索和上下文感知应答。
langfuse/langfuse
🪢 开源LLM工程平台:LLM可观测性、指标评估、提示管理、游乐场、数据集。与OpenTelemetry、Langchain、OpenAI SDK、LiteLLM等工具集成。🍊YC W23
comet-ml/opik
通过全面的追踪、自动化评估和生产就绪的仪表盘,调试、评估并监控您的LLM应用、RAG系统和智能体工作流。
tensorzero/tensorzero
TensorZero是工业级LLM应用的开源技术栈,整合了LLM网关、可观测性、优化、评估与实验功能。
Netflix/metaflow
构建、管理与部署人工智能及机器学习系统
evidentlyai/evidently
Evidently 是开源的机器学习和大语言模型可观测性框架。评估、测试并监控任何AI驱动系统或数据流水线。从表格数据到生成式AI,涵盖100多项指标。
deepset-ai/haystack
AI 编排框架,用于构建可定制、生产就绪的 LLM 应用。将组件(模型、向量数据库、文件转换器)连接到可与数据交互的流水线或智能体。凭借高级检索方法,特别适用于构建 RAG、问答系统、语义搜索或对话式聊天机器人
yamadashy/repomix
📦 Repomix 是一款强大工具,可将您的整个代码库打包成单一且适配 AI 处理的文件。非常适合需要将代码库输入大型语言模型或其他 AI 工具的场景,例如 Claude、ChatGPT、DeepSeek、Perplexity、Gemini、Gemma、Llama、Grok 等。
usestrix/strix
✨ 为您的应用程序提供开源AI黑客工具 👨🏻💻
1Panel-dev/MaxKB
🔥 MaxKB 是用于构建企业级智能体的开源平台
dyad-sh/dyad
免费、本地化、开源的 AI 应用构建工具 ✨ v0 版本 / 可替代 lovable 与 Bolt 的方案 🌟 如果喜欢请点星!
NirDiamant/agents-towards-production
本代码库提供端到端的代码优先教程,涵盖生产级生成式AI智能体的每个层级,通过经过验证的模式和可复用的蓝图,指导您从创意火花到规模化部署,助力实际应用落地。
GoogleCloudPlatform/generative-ai
Google Cloud生成式AI示例代码与笔记本,含Vertex AI平台的Gemini模型应用。
相关项目推荐
ollama/ollama
开始使用OpenAI gpt-oss、DeepSeek-R1、Gemma 3及其他模型。
avelino/awesome-go
一份精选的Go语言优秀框架、库及软件列表
golang/go
Go 编程语言
kubernetes/kubernetes
生产级容器调度与管理平台
fatedier/frp
一款快速反向代理,可帮助您将NAT或防火墙后的本地服务器暴露至互联网。
gin-gonic/gin
Gin 是一个用 Go (Golang) 编写的 HTTP Web 框架。它提供了类似 Martini 的 API,但性能更优——速度提升高达 40 倍。如果您需要出色的性能,请使用 Gin。