❤️❤️❤️❤️❤️❤️ 我们已经正式推出微信小程序,在微信中搜索 TrendForge Pro 即可使用小程序,如果使用 Telegram 请搜索 trendforge_tg ❤️❤️❤️❤️❤️❤️
项目介绍
AI模型接口管理与分发系统,支持将多种大模型转为统一格式调用,支持OpenAI、Claude等格式,可供个人或者企业内部管理与分发渠道使用,本项目基于One API二次开发。🍥 The next-generation LLM gateway and AI asset management system supports multiple languages.
智能解读
New API 是一款基于 Go 语言开发的下一代 LLM 网关与 AI 资产管理系统,专门用于管理多种大模型 API 接口,支持将 OpenAI、Claude 等不同厂商的模型统一转换为标准格式调用。该系统适用于个人或企业内部,能够集中管理 API 密钥、分配权限、监控使用量、进行成本核算,并支持私有化部署。通过 Docker Compose 或 Docker 命令即可快速启动,访问 `http://localhost:3000` 开始使用。项目强调合法合规使用,要求用户自行获取上游 API 密钥并遵守相关服务条款。若用于公开生成式 AI 服务或 API 转售,需完成备案、许可、内容安全、实名认证、日志留存、税务及上游授权等义务。
使用场景
New API最适合需要统一管理、安全分发和成本控制多AI模型API的团队或企业,尤其适合内部使用或合规的API转售场景。
多模型统一接入
团队使用OpenAI、Claude、DeepSeek等多个AI模型,需要为每个模型编写不同的API调用代码,维护成本高。
通过New API将多个模型接口统一转换为OpenAI兼容格式,只需一套代码即可调用所有模型。
前端应用只需调用OpenAI SDK,后端通过New API自动路由到Claude或DeepSeek,无需修改业务代码。
团队API成本管控
企业内部多人使用AI API,无法追踪每个人的使用量和费用,月底对账困难。
利用New API的Token分组、用户管理和用量统计功能,为每个成员分配独立额度并实时监控成本。
为开发组、测试组分别创建Token,设置每月限额,在仪表盘查看各组调用次数和费用明细。
API密钥安全分发
直接暴露上游API密钥给多个应用或用户存在安全风险,且无法限制使用范围。
在New API中创建多个子密钥,每个密钥可绑定特定模型和IP白名单,实现安全分发和权限控制。
为移动端、Web端分别生成不同密钥,限制只能调用GPT-4,且仅允许公司内网IP访问。
缓存计费降本增效
频繁调用相同API请求(如重复的文本生成)导致不必要的API费用和延迟。
启用New API的缓存功能,命中缓存的请求按更低费率计费,显著降低成本和响应时间。
客服系统对常见问题请求启用缓存,相同问题第二次调用直接返回缓存结果,费用减半。
项目健康度
从未记录更新时间
平台 Star TOP 10% · Forks 1,268
本周 +2,238 ⭐ · 本月 +3,915 ⭐
225 位贡献者 · 0 条平台评论
缺少 1 项内容
1 项改进建议
- 活跃度:暂无最后推送时间记录,建议重新采集仓库元数据
项目信息
赞赏支持
如果本站对你有帮助,欢迎打赏支持
微信
支付宝
Widget 徽章
相关项目推荐
ollama/ollama
开始使用OpenAI gpt-oss、DeepSeek-R1、Gemma 3及其他模型。
avelino/awesome-go
一份精选的Go语言优秀框架、库及软件列表
golang/go
Go 编程语言
kubernetes/kubernetes
生产级容器调度与管理平台
fatedier/frp
一款快速反向代理,可帮助您将NAT或防火墙后的本地服务器暴露至互联网。
gin-gonic/gin
Gin 是一个用 Go (Golang) 编写的 HTTP Web 框架。它提供了类似 Martini 的 API,但性能更优——速度提升高达 40 倍。如果您需要出色的性能,请使用 Gin。
加载评论中...