简介:New API 是开源大模型网关,可统一接入多家模型服务。本文讲解 SQLite 快速验证与 MySQL 生产部署的区别,演示渠道模型重定向的写法与测试方法,并给出负载均衡、Token 配额、安全加固和 404 排错的操作清单。读完即可搭建一套可用的网关。
New API 是基于 One API 二次开发的开源 AI 大模型网关与资产管理系统。项目使用 Go 语言和 Gin 框架编写,模块之间相互解耦,可以单独部署,也能横向扩展。
团队接入多家大模型时,通常会遇到三类问题。第一,接口不统一。不同厂商的鉴权方式、请求体结构和流式输出协议各不相同,业务代码容易绑定在单一供应商上。第二,可用性与成本难控制。单个渠道限流或宕机时缺少备用通道,高单价模型被随意调用时,账单会迅速上涨。第三,多租户管理缺失。团队、项目和个人之间缺少配额与权限边界。
New API 对外提供 OpenAI 协议兼容接口,对内完成路由分发,并提供计费、权限、调用监控和限流功能。官方宣称服务可用性为 99.9%,但这个数字取决于部署架构、数据库高可用方案和上游服务商的稳定性,正式使用前应以自己的压测结果为准。项目采用 AGPLv3 协议开源,支持 Docker 部署,可使用 SQLite、MySQL 或 PostgreSQL 作为数据库。
如果暂时不想自己运维网关,可以先在大模型 API 服务平台上比较各家模型的能力与调用价格,再决定哪些流量走自建网关,哪些直接调用托管 API。
验证阶段只需要一条命令。SQLite 不需要单独的数据库服务,适合个人试用和功能测试。
docker run -d --name new-api \-p 3000:3000 \-e TZ=Asia/Shanghai \-v /data/new-api:/data \--restart always \calciumion/new-api:<固定版本号>
镜像标签请填写具体的版本号,不要直接使用 latest。
部署完成后,在浏览器中打开 http://<宿主机地址>:3000。默认管理员账号和初始密码请以官方文档或首次启动时的提示为准,不要沿用网上流传的默认口令。首次登录后必须立即修改密码。
生产环境建议改用 MySQL 或 PostgreSQL。容器内的 127.0.0.1 指向容器自身,而不是宿主机,所以 SQL_DSN 不能直接写成 127.0.0.1。
部署前先在 MySQL 中创建数据库和专用账号,字符集使用 utf8mb4。然后根据宿主机环境选择数据库地址。Docker Desktop 可以使用 host.docker.internal。Linux 宿主机可以添加 --add-host 参数映射该域名,也可以直接填写宿主机的内网 IP。如果数据库和网关位于同一个 Compose 网络中,直接使用服务名即可。
docker run -d --name new-api \-p 3000:3000 \-e TZ=Asia/Shanghai \-e SQL_DSN="new_api:<数据库密码>@tcp(host.docker.internal:3306)/new-api" \--add-host=host.docker.internal:host-gateway \-v /data/new-api:/data \--restart always \calciumion/new-api:<固定版本号>
集群部署时,所有节点的 SQL_DSN 都要指向同一个外部数据库,并配置共享的 Redis 实例,用于会话和缓存同步。否则多个节点之间的额度与令牌状态会不一致。
渠道是网关连接上游服务商的单元。接入一