简介:本文从零拆解大模型 API 中转站的搭建与运营全流程:服务器与域名安全组配置、Docker 一键部署 New-API(MySQL+Redis+Nginx 全家桶)、上游渠道接入、倍率定价与支付闭环,以及限流风控和必须守住的合规红线。如果你的目标只是"把闲置模型额度对外提供服务",可以先通过[百度智能云词元所](https://cloud.baidu.com/product-s/token_exchange.html?from=article)对比各家模型的调用成本与能力,再决定中转站的定价基准。
所谓”中转站”,技术上是三件事的叠加: 统一入口 (把多家上游模型收敛成一套 OpenAI 兼容协议)、 渠道池 (一个模型配多个上游 Key,自动故障转移)、 计费与用户体系 (令牌、额度、倍率、充值)。
这本质上就是一个 API 网关该干的活:认证鉴权、流量控制、路由转发、调用统计。OneAPI 是这套逻辑的开源实现,New-API 是它的商业化 Fork(2.4 万+ Star),额外自带兑换码、分销和在线支付,所以更适合直接对外运营。
必须提前明确的合规边界 :绝大多数模型厂商的服务条款对”转售 API 额度”有明确限制。合规路径通常只有两条——拿到官方代理/经销资质,或基于自有合法额度做内部/团队共享。搭建技术不难,难的是上游授权,这一步没解决,后面所有运营动作都是在裸奔。
服务器 :2 核 4G 起步足够支撑小规模自用与测试,日活用户上百或开启日志全量落库后再升配。系统选 Ubuntu 22.04 LTS 或 Debian 12,两者对 Docker 的支持最成熟。
域名 :cheap 的 .top / .xyz 后缀可用,但对外商用建议 .com。在 DNS 服务商处添加 A 记录,把 api.yourdomain.com 指向 VPS 公网 IP。
安全组(这一步最容易翻车) :只放行三个端口——
22:SSH,建议改非默认端口 + 密钥登录 + 禁用密码认证80:仅用于 ACME 证书校验与跳转443:HTTPS 实际服务入口
绝对不要直接放行 3000 。New-API 默认监听 3000,公网暴露等于把后台和 API 面板敞开给全网扫描器。正确做法是让容器只监听 127.0.0.1:3000,由 Nginx 反向代理对外提供 443 服务。
先装 Docker:
curl -fsSL https://get.docker.com | bashsudo systemctl enable --now docker
生产环境推荐 New-API + MySQL + Redis + Nginx Proxy Manager 的经典四层架构:MySQL 做持久化(SQLite 在高并发写入下容易锁库),Redis 做缓存与限流计数,NPM 负责证书自动签发与反代。
docker-compose.yml 关键片段:
services:new-api:image: calciumion/new-api:latestcontainer_name: new-apirestart: alwaysports:- "127.0.0.1:3000:3000" # 只监听本地,由 Nginx 转发environment:- SQL_DSN=newapi:CHANGE_ME@tcp(mysql:3306)/new-api- REDIS_CONN_STRING=redis://redis:6379- TZ=Asia/Shanghaidepends_on: [mysql, redis]volumes:- ./data:/datamysql:image: mysql:8.0restart: alwaysenvironment:MYSQL_ROOT_PASSWORD: CHANGE_MEMYSQL_DATABASE: new-apivolumes:- ./mysql:/var/lib/mysqlredis:image: redis:7-alpinerestart: always
Nginx 反代核心配置:
server {listen 443 ssl;server_name api.yourdomain.com;ssl_certificate /etc/letsencrypt/live/api.yourdomain.com/fullchain.pem;ssl_certificate_key /etc/letsencrypt/live/api.yourdomain.com/privkey.pem;client_max_body_size 20m; # 长文本请求容易超限location / {proxy_pass http://127.0.0.1:3000;proxy_set_header Host $host;proxy_set_header X-Real-IP $remote_addr;proxy_read_timeout 300s; # 流式输出必须调大proxy_buffering off; # 关闭缓冲,否则 SSE 流式失效}}
proxy_buffering off 和 proxy_read_timeout 是流式对话场景最常见的两个坑,漏掉就会出现”能连上但不出字”或长回答被截断。
登录后台 → 渠道 → 添加渠道,填三样东西: Base URL 、 API Key 、 模型列表 。
以百度千帆为例,渠道类型选”百度文心千帆 V2”,密钥填在千帆控制台新建的 API Key,模型填 deepseek-r1 等实际开通的模型名,其余默认模型清掉避免无效路由。千帆平台同时提供 ERNIE 4.0 Turbo 等自研模型和第三方开源模型,长上下文场景还有 128K 版本可选。
几个实用配置:
New-API 的扣费逻辑是:用户扣费额度 = 基准额度 × 模型倍率 × 分组倍率。倍率定低了亏本,定高了没人用,所以先算清单次请求的真实成本:
单请求成本 = (输入 tokens × 输入单价 + 输出 tokens × 输出单价) / 1,000,000毛利率 = 1 − 上游成本 / 用户扣费
成本优化的着力点:
| 成本项 | 说明 | 优化手段 |
|---|---|---|
| 输入 Token | 长上下文场景占比最高 | 提示词精简、历史轮次裁剪、RAG 召回数量控制 |
| 输出 Token | 单价通常是输入的 2–4 倍 | 限制 max_tokens、结构化输出约束长度 |
| 失败重试 | 重试即重复计费 | 设置重试上限、渠道优先级隔离 |
| 缓存命中 | 重复问题可零成本响应 | 接入语义缓存层 |
建议按 1.3~1.5 倍成本 作为保本线,再叠加目标毛利。同时预留 10% 的调价空间——上游降价是常态,倍率写死会让你在价格战中失去弹性。
New-API 支持两条充值路径: 兑换码 (后台批量生成,适合线下、代理分销、企业采购)和 在线支付 (对接易支付等聚合通道,支持微信/支付宝)。
上线前务必确认三件事:支付回调地址用的是 HTTPS 域名、回调接口做了签名校验、充值到账有幂等处理。支付回调裸奔是这类站点被”零元充”的高发原因。
中转站的护城河不在部署脚本,而在 上游组合的成本与稳定性 。选上游时看四个维度:单位 Token 价格、限流阈值(RPM/TPM)、可用模型覆盖度、SLA 与故障恢复速度。
如果你正在为”接哪几家、怎么定价”做决策,可以先用词元所模型服务横向对比不同模型的调用成本与能力定位,把选型从拍脑袋变成看数据。平台提供多模型统一 API 接入方式,也能帮你集中管理调用情况——对中转站运营者来说,这相当于多了一个上游比价与接入的参考入口。
| 现象 | 原因 | 处理 |
|---|---|---|
| 流式输出无内容 | Nginx 开启了 proxy_buffering | 关闭缓冲 + 调大 read_timeout |
| 渠道测试不通 | Base URL 多了 /v1 或模型名未开通 |
核对上游文档的模型标识 |
| 请求 413 | client_max_body_size 过小 | 调至 20m 以上 |
| 后台频繁掉线 | 未用 MySQL,SQLite 锁库 | 切换 MySQL + Redis |
| 扣费异常偏高 | 模型倍率或分组倍率配错 | 用小额请求实测校准 |
部署只是起点。真正决定站点能否长期运营的,是上游授权的合规性、倍率定价的准确性,以及风控体系的完整度——这三项任何一项缺失,技术架构再漂亮也撑不住。