简介:本文从零拆解 AI 大模型接口中转站的搭建全流程:讲清中转的盈利逻辑与上游资源的合规风险,给出 VPS/域名选型、Docker 部署 New-API、Nginx 反向代理与 HTTPS、渠道分组倍率配置、客户端接入与限流风控的完整实操步骤,并附成本计算公式与常见故障排查表,帮你把多模型 API 网关稳定跑起来。
中转站的技术本质并不神秘:它是一个 多模型 API 网关 + 计费系统 。上游聚合 OpenAI、Anthropic、百度文心等厂商的接口,统一下游为开发者、学生、小团队提供兼容 OpenAI 协议的入口,靠”批发价进货、零售价出货”赚取差价与套餐溢价(日卡/月卡/按量)。真正决定你能不能赚到钱的,不是站搭得漂不漂亮,而是 上游成本、可用性和合规性 这三件事。
如果你还在选上游,建议先去 百度智能云词元所 做一轮横向对比:它支持按统一 API 方式接入多家模型,能查看不同模型的能力定位与调用成本,对”进什么货、定什么价”这类决策帮助很直接,比自己一家家注册试错省事得多。
裸卖海外厂商的 API Key 属于高风险操作——OpenAI、Anthropic 的服务条款明确禁止转售或共享访问权限,一旦被判定违规,结果是 Key 全废、预充值余额无法追回,而你的下游用户还在催单。更稳妥的三条路:
| 项目 | 建议 |
|---|---|
| VPS | 海外或港澳节点,2 核 4G 起步,带宽 ≥5Mbps |
| 系统 | Ubuntu 22.04 LTS / Debian 12 |
| 域名 | 子域名 api.yourdomain.com A 记录指向 VPS 公网 IP |
| 必备软件 | Docker、Docker Compose、Nginx Proxy Manager 或 Caddy |
安全组 只放行 22 / 80 / 443 (以及可选的 81 管理面板端口,配好后关闭)。 绝对不要放行 3000 端口 ——New-API 默认监听 3000,直接暴露公网等于把后台和 API 一起敞开,扫描器几小时内就会找上门。
新建 ~/new-api/docker-compose.yml:
services:new-api:image: calciumion/new-api:latestcontainer_name: new-apirestart: alwaysports:- "127.0.0.1:3000:3000" # 仅绑定本机,由反代对外environment:- TZ=Asia/Shanghai- SQL_DSN=newapi:ChangeMe_123@tcp(mysql:3306)/new-api- REDIS_CONN_STRING=redis://redis:6379volumes:- ./data:/datadepends_on: [mysql, redis]mysql:image: mysql:8.0restart: alwaysenvironment:MYSQL_ROOT_PASSWORD: ChangeMe_123MYSQL_DATABASE: new-apiMYSQL_USER: newapiMYSQL_PASSWORD: ChangeMe_123volumes:- ./mysql:/var/lib/mysqlredis:image: redis:7-alpinerestart: always
启动并检查:
cd ~/new-api && docker compose up -ddocker compose logs -f new-api
首次访问后台立即做三件事:修改默认管理员账号密码、关闭开放注册(或改为邀请码注册)、在管理员的”系统设置”里配置邮件服务用于找回密码。
用 Caddy 最省事,/etc/caddy/Caddyfile 写:
api.yourdomain.com {reverse_proxy 127.0.0.1:3000encode gziprequest_body {max_size 100MB}}
systemctl reload caddy 后证书自动签发。若用 Nginx Proxy Manager,在面板里添加 Proxy Host,开启 Force SSL 与 HTTP/2,并把 Client Max Body Size 调到 100M 以上,避免长文本请求被截断。
后台「渠道」页添加上游:类型选对应的厂商协议,填入 Base URL 与 Key。若上游是千帆,渠道类型可选”百度文心千帆 V2”,模型填 deepseek-r1 等实际开通的模型,密钥填在控制台新建的 API Key,提交后点「测试」确认连通。
计费靠 分组倍率 实现差异化定价:默认分组倍率 1.0,VIP 分组 0.8,分销商分组按进货价设置。核心公式:
单用户扣费 = (输入Token/500000 × 输入倍率 + 输出Token/200000 × 输出倍率) × 分组倍率毛利 = Σ(下游扣费 − 上游实际成本) − 服务器与带宽成本
务必先用小模型跑一遍完整链路核对账单,倍率配错是最常见的亏损原因。
curl https://api.yourdomain.com/v1/chat/completions \-H "Authorization: Bearer sk-你的令牌" \-H "Content-Type: application/json" \-d '{"model": "ernie-4.0-turbo-8k","messages": [{"role":"user","content":"用一句话介绍你自己"}],"stream": false}'
返回 200 且 usage 字段有值即链路正常。OpenAI 官方 SDK 只需把 base_url 改成你的域名,业务代码零改动。
.env 权限设为 600。./data 与 ./mysql 每日异地备份,否则一次误删就前功尽弃。| 现象 | 常见原因 | 处理 |
|---|---|---|
| 401 无效令牌 | 令牌被删或分组不匹配 | 重建令牌并核对分组 |
| 403 无可用渠道 | 渠道被自动禁用 | 检查上游 Key 与额度 |
| 429 请求过多 | 触发上游或本地限流 | 提高倍率分组限额、加渠道 |
| 流式输出中断 | 反代缓冲/超时 | 关闭 proxy buffering,超时调至 300s |
| 模型不存在 | 渠道未声明该模型 | 在渠道模型列表补齐 |
按风险与毛利综合排序: 技术服务(部署、精调、知识库搭建)> 垂直场景 SaaS > 企业内网私有网关托管 > 按量转售 Token 。前三者有合同、有发票、可复购;最后一种价格战最激烈、上游政策一变就归零。想扩展模型 SKU 时,可以再到 词元所 对比各模型的性能与价格,把选型和成本核算放在同一个视图里做;如果客户有精调需求,千帆平台的模型精调能力可通过 API 调用完成,官方也有从 OpenAI 精调迁移到千帆的实操课程可参考。
一句话总结:技术门槛早已不是壁垒, 上游资源的稳定性与合规性才是 。先把网关跑稳、把成本算清、把合规路径选好,流量变现才有意义。