功能发布记录
更新时间:2026-05-26
功能发布记录
2026 年
| 发布时间 | 功能概述 | 相关文档 |
|---|---|---|
| 2026-05 | 支持配置模型 Fallback 服务:针对第三方模型服务,可开启 Fallback,以实现主备模型容灾,提升请求成功率。 | 创建模型推理服务 |
| 2026-05 | 支持为第三方模型服务开启 API Key 探活:针对第三方模型服务,若您有多个 API Key,可通过探活配置对多个 API Key 进行健康检查,开启探活后,请求失败时将触发探活机制,网关将对每个 API Key 发起轻量请求,自动摘除连续失败的 Key。 | 创建服务 |
| 2026-05 | 支持消费者级别 Token 配额、请求次数配额限制:支持为每个消费者单独配置 Token 用量与请求次数配额,按每天/每月自动重置,超限即时拦截,变更可选立即或下次重置生效。让多租户共用网关时也能把上游模型成本可预测地分摊到每个调用方,避免个别异常用量拖垮整体。 | 创建消费者 管理消费者 |
| 2026-05 | 兼容千帆 Coding Plan 接口:AI 原生网关兼容千帆 Coding Plan 接口协议,企业已购买的 Coding Plan 配额可直接通过网关代理调用。AI 编程类请求无需为该套餐单独开发对接逻辑,统一收口到网关后即可享受集中认证、限流、计量与审计能力。 | 创建消费者 管理消费者 |
| 2026-04 | AI 原生网关支持代理第三方模型服务:新增「AI 模型代理」能力,可一键接入 DeepSeek、百度千帆、OpenAI 等模型供应商,并以统一的 OpenAI 兼容接口对外提供。调用方只对接网关即可访问任意上游模型,切换或新增供应商无需改代码,降低多模型集成成本与供应商绑定风险。 | 创建服务 |
2025 年
| 发布时间 | 功能概述 |
|---|---|
| 2025-12 |
|
评价此篇文章
