katanemo/plano
项目介绍
智能体应用交付基础设施——Plano是面向AI原生的代理与数据平面，可卸载底层管道工作，让您专注于智能体核心逻辑开发（支持任意AI框架）。
Plano is an AI-native proxy and data plane for agentic apps — with built-in orchestration, safety, observability, and smart LLM routing so you stay focused on your agents core logic.
智能解读
Plano是一个专为AI智能体应用设计的代理服务器和数据平面基础设施，采用Rust语言构建。该项目旨在简化智能体应用的开发与部署流程，通过将通用的中间件功能从应用代码中剥离，让开发者能更专注于核心业务逻辑。其核心功能包括智能体路由与编排、模型无关的LLM路由（支持按模型名称、别名或偏好自动选择）、内建的安全与内容审核护栏，以及零代码集成的可观测性信号追踪。这些能力帮助团队统一处理生产环境中常见的跨框架、跨模型的复杂性问题，从而提升开发效率，保障应用的可控性与稳定性。无论是基于OpenAI或其他AI框架构建的智能体系统，均可通过Plano实现更快速、可靠的上线部署。
原始标签
使用场景
适合需要将多个AI智能体应用安全、可靠地部署到生产环境，并希望统一管理路由、安全和可观测性的场景。
多模型智能路由
开发者在应用中硬编码了特定LLM提供商（如OpenAI），当需要切换模型或提供商时，需要修改大量代码并重新部署。
使用Plano的智能路由API，通过配置即可实现基于模型名称、别名或性能偏好的动态路由，无需修改应用代码。
当GPT-4响应慢时，自动降级到GPT-3.5；或根据成本策略，将非关键请求路由到更便宜的Claude模型。
统一安全护栏
每个智能体应用都需要单独实现内容审核、越狱防护等安全逻辑，导致代码重复且策略不一致。
通过Plano的Filter Chains统一添加安全策略，如内容审核、记忆管理，所有经过代理的请求都会自动应用这些防护。
为客服聊天机器人添加统一的敏感词过滤和用户历史记忆管理，避免每次对话都重新实现。
集中式可观测性
智能体应用的调试和优化困难，因为日志、追踪和性能指标分散在各个框架和代码库中。
Plano自动捕获Agentic Signals™并提供OTEL追踪和指标，无需额外代码即可获得完整的请求链路视图。
查看一个用户查询从入口到最终响应的完整路径，包括每个智能体的处理时间和模型调用详情，用于性能优化。
异构智能体编排
当应用需要多个不同框架（如LangChain、LlamaIndex）或语言编写的智能体协同工作时，编排逻辑复杂且耦合度高。
Plano提供低延迟的智能体间编排，可以轻松添加新智能体而无需修改现有应用代码，支持任意框架。
一个用Python+LangChain编写的文档分析智能体，与一个用Rust编写的代码生成智能体协同工作，通过Plano统一路由和编排。
项目健康度
距上次更新 7 天
平台 Star TOP 32% · Forks 382
本周 +77 ⭐ · 本月 +338 ⭐
25 位贡献者 · 0 条平台评论
文档资料完整
项目信息
赞赏支持
如果本站对你有帮助，欢迎打赏支持
微信
支付宝
Widget 徽章
相关项目推荐
rust-lang/rust
让每个人都能构建可靠高效的软件
rustdesk/rustdesk
一款专为自建远程访问需求设计的开源远程桌面应用程序，可作为TeamViewer的替代方案。
denoland/deno
面向 JavaScript 与 TypeScript 的现代化运行时
tauri-apps/tauri
通过 Web 前端构建更小、更快、更安全的桌面与移动应用程序
astral-sh/uv
基于Rust开发的极速Python包和项目管理器
zed-industries/zed
以思维速度编码——Zed 是由 Atom 和 Tree-sitter 的创作者打造的高性能多人协作代码编辑器。
加载评论中...