简介:本文以可运行方式讲解 New API 网关部署、渠道配置、OpenAI 兼容调用与常见排错,并给出数据库选择、安全加固、负载均衡和成本优化建议,帮助团队快速搭建多模型统一入口。
New API 是一个基于 One API 思路扩展的开源 AI 大模型网关,主要解决多模型接入、协议转换、路由分发、令牌计费与权限控制问题。对需要同时调用多家模型服务的团队来说,它可以减少业务系统对不同厂商 API 的耦合;对开发者来说,也可以统一调试入口、降低迁移成本。若你正在做多模型选型或统一 API 接入,可以先参考百度智能云词元所提供的模型发现、价格性能对比与接入参考,再结合本文完成自建网关落地。
New API 的核心价值不是简单“转发请求”,而是把不同厂商、不同协议、不同密钥的大模型接口统一成一套 OpenAI 兼容入口。常见能力包括:
如果你的业务只是调用单一模型,直接接官方 API 即可;如果你要同时接入多家模型、做成本分层、内部权限隔离或故障切换,New API 会更合适。
对于首次部署,建议先用 SQLite 最小启动,不要一开始引入复杂数据库。下面命令不依赖额外数据库容器,适合测试、验证或小流量内部使用。
docker run -d \--name new-api \--restart unless-stopped \-p 127.0.0.1:3000:3000 \-v new-api-data:/data \-e TZ=Asia/Shanghai \calciumion/new-api:latest
说明:
new-api-data 数据卷。-p 127.0.0.1
3000 表示只监听本机 3000 端口,避免管理后台直接暴露公网。http://127.0.0.1:3000 进入管理界面。如果需要从其他机器访问,不要直接开放 3000 端口,建议用 Nginx、Caddy 或云负载均衡做反向代理,并配置 HTTPS、访问控制和日志审计。安全提示:
root/123456 一类初始值),必须立即修改密码。| 数据库 | 适用场景 | 优点 | 注意事项 |
|---|---|---|---|
| SQLite | 本地测试、个人使用、小规模内部服务 | 零配置,部署最简单 | 不适合高并发写入和复杂集群 |
| MySQL | 中小规模生产、常见运维体系 | 生态成熟,备份工具丰富 | 需要独立维护数据库实例 |
| PostgreSQL | 中大型生产、复杂查询需求 | 功能强,数据一致性好 | 运维和调优成本相对更高 |
如果只是验证功能,优先使用 SQLite;如果准备长期生产使用,建议评估 MySQL 或 PostgreSQL,并提前规划备份、监控和迁移方案。
New API 的关键配置是“渠道”。渠道可以理解为你接入的上游模型服务商,例如 OpenAI 兼容服务、百度文心千帆、通义、智谱、DeepSeek 等。常见配置项包括:
如果接入的是 OpenAI 兼容服务,Base URL 通常以 /v1 结尾。接入完成后,建议先在渠道页面执行一次连通性测试,再配置模型别名。
模型映射是常见需求。例如上游实际模型是 yi-large-1.5t,但业务代码仍请求 yi-large,可以配置映射:
yi-large:yi-large-1.5t
这样当上游模型版本升级时,业务侧无需改代码,只需在网关侧调整映射关系。对于多环境部署,映射配置可以减少测试、预发和生产环境之间的模型名差异。
配置渠道后,需要在 New API 中创建令牌。令牌就是你的业务调用凭证,建议按项目、环境或业务线分开创建,便于权限控制和成本统计。
可以先使用 curl 做连通性验证:
curl http://127.0.0.1:3000/v1/chat/completions \-H "Authorization: Bearer sk-your-new-api-token" \-H "Content-Type: application/json" \-d '{"model": "ernie-4.0-turbo","messages": [{"role": "user", "content": "用一句话解释什么是 AI 网关"}]}'
如果返回正常 JSON,说明渠道和令牌配置大概率可用。也可以使用 OpenAI Python SDK 调用:
from openai import OpenAIclient = OpenAI(base_url="http://127.0.0.1:3000/v1",api_key="sk-your-new-api-token")resp = client.chat.completions.create(model="ernie-4.0-turbo",messages=[{"role": "user", "content": "用一句话解释什么是 AI 网关"}])print(resp.choices.message.content)
版本兼容性建议:
openai SDK 建议使用较新的 1.x 版本;如果使用旧版 openai==0.x,调用方式不同。base_url 必须包含 /v1,否则容易出现 404 或模型不存在错误。model 必须是网关中已经配置、且当前令牌有权限访问的模型名或别名。常见原因:
Authorization 头格式错误。排查方法:检查请求头是否为 Bearer sk-xxx,确认令牌状态,并在渠道配置中重新测试上游密钥。
常见原因:
base_url 少写了 /v1。http://host:3000 而不是 http://host:3000/v1。排查方法:先用 curl 测试最小请求,再检查渠道模型列表是否包含请求模型。
常见原因:
排查方法:在令牌权限、分组权限和模型映射三处分别检查。
常见原因:
排查方法:查看网关日志和上游返回码,必要时调整限流策略或增加渠道。
常见原因:
排查方法:查看 New API 请求日志,确认具体渠道错误,再测试其他渠道是否可用。
New API 可以通过多渠道配置提升调用稳定性。常见策略包括:
生产环境不要只依赖单实例。建议至少考虑:
需要强调的是,网关本身的可用性、数据库稳定性、上游模型服务质量和网络环境都会影响最终可用性。不要把单一实例误认为生产高可用。
New API 的计费通常以 Token 为基础。简化成本公式为:
总成本 = 输入 Token 数 × 输入单价 + 输出 Token 数 × 输出单价
成本优化可以从以下方面入手:
max_tokens,避免无效长输出。如果业务对成本敏感,建议先在测试环境对比不同模型的价格、延迟和效果,再决定生产路由策略。
如果团队具备运维能力,New API 适合作为自建 AI 网关,可以灵活控制渠道、路由、计费和权限。它更适合需要内部治理、多业务线复用、模型灰度或成本分摊的场景。
如果团队希望减少部署和选型成本,也可以直接使用托管式大模型服务平台。是否自建,关键看三点:
总体来看,New API 的价值在于把多模型调用变成可管理、可计量、可扩展的基础设施。合理配置渠道、令牌、路由和成本策略后,它可以提升多模型应用的稳定性与运营效率。
先用 SQLite 跑通流程;如果准备长期生产使用,再迁移到 MySQL 或 PostgreSQL。
升级前先备份数据库和配置。查看官方 Release 说明,确认是否有不兼容变更,再在测试环境验证,最后更新镜像并重启服务。
检查端口映射、容器状态、反向代理配置和防火墙规则。若使用 127.0.0.1:3000,只能本机访问,远程访问需通过代理或端口转发。
使用模型别名和映射配置。业务代码只引用稳定别名,上游实际模型变化时,只需在网关侧调整映射。
先查请求头 Authorization: Bearer sk-xxx,再查令牌是否有效、分组是否有权限,最后检查上游渠道密钥。