ai-gateway

Python SDK及代理服务器（LLM网关）：支持以OpenAI格式调用100+LLM API——涵盖Bedrock、Azure、OpenAI、VertexAI、Cohere、Anthropic、Sagemaker、HuggingFace、Replicate、Groq等平台

🦍 云原生API网关与AI网关。

一个统一的AI模型中心，用于聚合与分发。它支持将各类大语言模型跨格式转换为OpenAI兼容、Claude兼容或Gemini兼容的格式。作为个人与企业模型管理的集中式网关。🍥

适用于Claude Code、Codex、Cursor的通用AI代理 | 支持OpenAI、Claude、Gemini、Copilot

云原生API网关与AI网关

OmniRoute是一个面向多供应商大语言模型的AI网关：它提供兼容OpenAI的端点，具备智能路由、负载均衡、重试和故障转移功能。

开源UI优先的身份与访问管理平台/单点登录平台，提供支持OAuth 0、OIDC、SAML、CAS、LDAP、SCIM、WebAuthn、TOTP、MFA、Face ID、RADIUS、Google Workspace、Active Directory及Kerberos的Web用户界面。

一个集成了防护机制的极速AI网关，通过一个快速友好的API路由至200多个大型语言模型和50多个AI防护机制。

🤖 AI 网关 | AI 原生 API 网关

🤖 AI网关 | 原生AI API网关

智能体应用交付基础设施——Plano是面向AI原生的代理与数据平面，可卸载底层管道工作，让您专注于智能体核心逻辑开发（支持任意AI框架）。

最快的LLM网关，性能超越LiteLLM达50倍，具备自适应负载均衡器、集群模式、防护机制，支持1000多种模型，在5k RPS下延迟低于100微秒

面向混合模型的智能路由器。

面向AI智能体与MCP服务器的下一代代理型代理工具

基于Envoy Gateway构建的生成式AI服务统一访问管理平台

面向智能体系统的模型路由器。在50毫秒内将每个提示路由至正确模型，仅需更改端点即可降低40-70%成本。

基于 Nuxt UI 和 Vercel AI SDK 构建的 Nuxt AI 聊天机器人模板。