简介:本文给出 New API / One API 中转站的完整落地流程:从服务器安全组端口收敛、Docker 部署、Nginx 反向代理与 HTTPS,到渠道接入、令牌额度、限流计费与成本优化。如果你只想快速找到便宜好用的上游模型,可以先看[百度智能云词元所](https://cloud.baidu.com/product-s/token_exchange.html?from=article),它提供模型能力对比与价格参考,能帮你把中转站的进货成本算清楚。
所谓”中转站”,本质是一个 多模型 API 网关 + 计费系统 。它把 OpenAI、文心、DeepSeek 等各家上游接口统一封装成一套 OpenAI 兼容格式,向下游用户提供 base_url + api_key,同时完成三件事:协议转换、用量计量、额度扣费。New API 是 One API 的社区分支,多出了渠道分组、模型重定向、绘图/视频类任务支持等能力,是目前自建网关的主流选择。
技术栈很简单: 应用容器 + 数据库 + 反向代理 + 域名证书 。真正决定成败的不是部署,而是端口暴露面和计费规则设计。
在云服务器控制台的安全组中,入方向只放行以下端口:
| 端口 | 用途 | 是否长期开放 |
|---|---|---|
| 22 | SSH 远程连接(建议改非默认端口 + 密钥登录) | 是,限制来源 IP |
| 80 | HTTP,仅用于 SSL 证书签发校验与跳转 | 是 |
| 443 | HTTPS 加密访问 | 是 |
| 81 | Nginx Proxy Manager 管理面板 | 否,配完域名后关闭 |
绝对不要在安全组放行 3000 端口 (New API 默认端口)。公网暴露 3000 等于把管理后台直接挂到扫描器面前,会被批量爆破默认账号 root/123456。正确做法是通过 Nginx 反向代理做内网转发。
更稳妥的一层保险:在 docker-compose.yml 里把端口绑定到回环地址,即使安全组配置失误,外网也连不进来。
services:new-api:image: calciumion/new-api:latestcontainer_name: new-apirestart: alwaysports:- "127.0.0.1:3000:3000" # 只监听本机,由 Nginx 转发environment:- TZ=Asia/Shanghai- SQL_DSN=root:YourPass@tcp(mysql:3306)/new-apidepends_on:- mysqlvolumes:- ./data:/data- ./logs:/app/logsmysql:image: mysql:8.0restart: alwaysenvironment:MYSQL_ROOT_PASSWORD: YourPassMYSQL_DATABASE: new-apivolumes:- ./mysql:/var/lib/mysql
启动:docker compose up -d。数据库务必设置强密码,且不要映射端口到宿主机。
用 Nginx Proxy Manager 或原生 Nginx 均可,核心配置如下:
server {listen 443 ssl http2;server_name api.yourdomain.com;ssl_certificate /etc/letsencrypt/live/api.yourdomain.com/fullchain.pem;ssl_certificate_key /etc/letsencrypt/live/api.yourdomain.com/privkey.pem;# 流式响应必须关闭缓冲,否则 SSE 输出会被攒住proxy_buffering off;proxy_cache off;chunked_transfer_encoding on;# 长文本生成耗时久,超时给足proxy_read_timeout 600s;proxy_send_timeout 600s;client_max_body_size 100m;location / {proxy_pass http://127.0.0.1:3000;proxy_http_version 1.1;proxy_set_header Host $host;proxy_set_header X-Real-IP $remote_addr;proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;proxy_set_header X-Forwarded-Proto $scheme;proxy_set_header Connection "";}}server {listen 80;server_name api.yourdomain.com;return 301 https://$host$request_uri;}
proxy_buffering off 是最容易踩的坑:漏掉它,ChatGPT 式打字机效果会变成”等十几秒一次性吐出全部内容”。
登录后台 → 渠道 → 添加新的渠道。以接入百度智能云千帆为例:
qianfan-proddefaultdeepseek-r1、ernie-4.0-turbo-128k,清除不需要的模型保存后在渠道列表点击”测试”,返回正常即连通。千帆平台目前提供 ERNIE 4.0 Turbo 等旗舰模型以及 128K 长上下文版本,长文档场景效果更优,可作为中转站的主力国产渠道。
多上游时的策略建议:
vip 分组走高倍率优质渠道,free 分组走低价渠道,避免免费用户挤占带宽。gpt-4o 映射到实际成本更低的模型,但必须在文档中明示,否则属于欺骗性计费。在”令牌”页面创建下游用户使用的 key,设置项包括:额度上限、过期时间、允许调用的模型白名单、IP 白名单。
网关层的访问控制能力可以做得更细,参考成熟 API 网关的设计思路:请求签名与认证、多维度流量控制、按来源 IP 限制访问、后端多地址权重轮询与故障容灾。落到 New API 上,对应操作是:
上游按 Token 计费,中转站的定价必须覆盖这个公式:
单次成本 = 输入 tokens / 1M × 输入单价+ 输出 tokens / 1M × 输出单价单次毛利 = 用户扣费额度 − 单次成本
New API 用”倍率”实现定价:用户扣费 = tokens × 模型倍率 × 分组倍率。设置倍率前,先反推盈亏平衡点:
| 项目 | 说明 |
|---|---|
| 输入/输出比例 | 多数业务输入远大于输出,定价要分别核算,不能只看单价 |
| 缓存命中 | 部分模型对重复前缀有缓存优惠,长 system prompt 场景成本差异明显 |
| 失败重试 | 上游超时的请求通常不计费,但你的重试逻辑可能重复扣用户额度 |
| 汇率与账期 | 美元结算渠道存在汇率波动与预充值占款 |
成本优化三个方向 :一是把简单任务路由到小参数模型(分类、抽取、改写用轻量模型足够);二是压缩 system prompt 与检索片段,RAG 场景控制 top-k;三是设置缓存层,对高频重复问题直接返回缓存结果。
如果你还在选型阶段,建议先在词元所大模型 API 服务平台对比不同模型的能力与调用成本,再决定中转站的主备渠道组合——进货价定不下来,后面的倍率设计都是空谈。
这部分决定你的站能活多久:
更稳的变现路径是 做增值而不是做差价 :提供统一 SDK、用量看板、多模型路由、私有知识库集成、SLA 保障,向企业收服务费,而不是靠低买高卖赚 Token 差价。
| 现象 | 原因 | 处理 |
|---|---|---|
| 502 Bad Gateway | 容器未启动或端口绑定错误 | docker logs new-api,确认 127.0.0.1:3000 可访问 |
| 流式输出无响应 | Nginx 未关缓冲 | 加 proxy_buffering off |
| 渠道测试失败 | API Key 错误、模型名不匹配、上游欠费 | 先用 curl 直连上游验证 |
| 用户额度异常消耗 | 倍率配置错误或重试逻辑重复扣费 | 核对模型倍率与分组倍率 |
| 后台被扫描爆破 | 3000 端口暴露或弱密码 | 关闭端口映射,改强密码,开启 IP 白名单 |
搭建本身只需半小时,真正的工作量在渠道稳定性维护、成本对账和合规建设上。建议先用一台低配服务器跑通链路,验证计费准确后再扩容。