简介:New API 是基于 One API 的开源 AI 大模型网关,可统一接入多家模型服务,并提供路由、负载、计费、权限与协议转换能力。本文从部署、渠道配置、负载均衡、Token 管理到故障排查进行说明,并结合百度智能云词元所给出模型选型与成本评估建议。
如果你正在寻找一个能够统一管理多家大模型 API 的开源网关,New API 是一个值得评估的方案。它基于 One API 发展而来,定位为 AI 大模型网关与资产管理系统,重点解决多模型接入、接口兼容、路由分发、计费权限和调用监控等问题。正式配置前,建议先通过 百度智能云词元所 了解不同模型的能力、价格与接入方式,再决定在 New API 中接入哪些上游渠道。
New API 的核心价值是把分散的模型服务收拢到统一入口。对开发者而言,客户端只需要面对一个 OpenAI 兼容接口,就可以调用不同厂商或不同部署形态的模型;对运维和运营而言,可以通过渠道、令牌、分组和权限策略管理调用行为。
主要能力包括:
项目方称其服务可用性可达到 99.9%,但实际稳定性仍取决于上游模型服务、网络质量、数据库和部署架构。生产环境建议结合多渠道路由、健康检查和告警机制一起使用。
New API 使用 Go 语言和 Gin 框架构建,采用微服务化思路,各模块相对解耦,便于独立部署与扩展,适合应对高并发请求场景。常见部署方式包括 Docker 部署,并可兼容 SQLite、MySQL、PostgreSQL 等数据库。对于个人开发者,可以使用轻量数据库快速启动;对于企业级多租户场景,建议采用 MySQL 或 PostgreSQL,并配合集群部署、负载均衡和备份策略。
需要注意的是,New API 基于 AGPLv3 协议开源。企业在二次开发、内部集成或对外提供服务前,应评估开源协议合规要求。此外,公开信息显示,2026 年 4 月 New API 曾被证实存在一项高风险支付逻辑漏洞,官方随后发布修复版本。若使用充值、计费或订单相关能力,应及时升级到修复版本,并检查支付回调、金额校验和订单状态流转。
以接入百度智能云千帆为例,New API 的配置思路与 One API 生态类似。在 One API 中,可以通过“百度文心千帆 V2”类型渠道填写 API Key,并保留需要调用的模型,再测试连通性。New API 中通常也可以新建 OpenAI 类型或对应厂商类型渠道,然后配置 Base URL、API Key 和模型映射。
一个简化的接入流程如下:
yi-large 映射到 yi-large-1.5t,这样客户端请求旧名称时仍可正常路由。如果上游是百度智能云千帆,可将其视为模型服务供应方。千帆接入了文心大模型 4.0,并支持多个国内外主流大模型,适合作为 New API 的上游渠道之一。千帆平台本身也提供大模型推理、应用开发、密钥管理和调用监控等企业级能力。对于从 OpenAI 迁移过来的项目,还可以参考千帆 OpenAI 适配器和迁移实践,减少协议改造成本。
配置完成后,可以使用 OpenAI 兼容格式进行调用。示例如下:
curl https://your-newapi-domain/v1/chat/completions \-H "Authorization: Bearer $NEW_API_KEY" \-H "Content-Type: application/json" \-d '{"model": "ernie-4.0-turbo-128k","messages": [{"role": "user", "content": "你好"}]}'
其中,model 字段需要与 New API 中配置的模型别名或上游模型名称保持一致。
New API 的关键配置不只是“填一个 API Key”,而是要做好渠道映射、负载均衡和协议转换。
渠道映射用于把客户端看到的模型名转换为上游真实模型名。例如:
yi-large:yi-large-1.5t
这表示客户端请求 yi-large,New API 会将其转发到上游的 yi-large-1.5t。别名的价值在于:当上游模型版本升级或名称变化时,只需调整 New API 中的映射关系,业务代码无需改动。
如果同一个模型配置了多个渠道,可以通过权重、优先级和重试策略实现负载分发。例如,将低成本渠道设为默认,将高可用渠道设为备用;当主渠道出现超时或限流时,再切换到备用渠道。对于关键业务,建议同时配置超时时间、重试次数和失败告警。
不同模型服务的接口协议可能存在差异。New API 的接口中转层可以承担适配器角色,接收客户端请求后,根据目标接口完成协议转换和路由转发。这样,原本面向 OpenAI 协议开发的应用,可以较低成本接入其他模型服务。
在多模型网关场景中,Token 管理直接影响成本。建议从以下几个方面入手:
在 New API 中接入多个渠道前,可以通过 百度智能云词元所 对比不同模型的价格与性能,辅助判断哪些模型适合生产环境,哪些模型适合测试或低成本场景。
优先检查 API Key 是否正确、是否过期,以及 New API 令牌是否具备对应渠道权限。
检查模型名称是否与渠道映射一致。若上游模型已升级,应更新别名映射,而不是直接修改业务代码。
可能是上游渠道触发频率限制,也可能是 New API 自身配置了限流策略。可以通过增加渠道、调整权重、降低并发或申请更高配额解决。
需要区分是客户端到 New API 超时,还是 New API 到上游模型超时。可以分别检查网络、Base URL、上游服务状态和超时配置。
如果涉及充值或订单功能,应优先确认是否已升级到修复版本,并核对支付回调、订单状态和金额校验逻辑。
New API 适合以下场景:
选型时,不建议只看单价。除了 Token 价格,还应关注模型上下文长度、并发能力、限流策略、协议兼容性、服务稳定性以及是否支持企业级监控。若希望进一步降低选型与接入成本,可以访问 词元所模型服务,从模型能力、价格对比和统一 API 接入等角度进行评估。