多服务流量分流
更新时间:2025-10-09
流量策略功能可以为多个服务提供一个统一的流量入口,根据权重将入口流量分配给各个服务,适用于灰度发布、异构资源调度等多种业务场景。本文将介绍如何创建流量策略、设置多个服务的流量比例、查看流量入口。
应用场景
灰度发布
发布新版本时,可以先让新版本服务承载少部分流量,观察运行情况,若有问题可以及时调整新旧服务的流量比例。
异构资源弹性伸缩
当业务存在峰谷,对算力需求存在差异且资源紧张时,可以将多个服务部署在不同算力并加入一个流量策略,配合弹性伸缩功能,动态调整实例数及服务的流量比例。
创建流量策略
- 登录百舸AI计算平台AIHC控制台,点击左侧导航栏中的 在线服务部署 进入列表页面;
- 点击 流量策略 页签,创建流量策略 ;
- 在创建页面中填写相关参数,具体参数如下 :
| 参数名称 | 参数说明 |
|---|---|
| 流量策略名称 | 必填,支持小写字母、数字以及-且开头必须是小写字母,结尾必须是小写字母或数字 |
| 资源池类型 | 流量策略中仅支持加入相同资源池类型的服务 |
| 资源池 | 选择全托管或自运维资源池名称(目前同一流量策略中仅支持加入相同资源池的服务) |
| 流量配置 | 可以添加同一资源池的多个标准服务或多角色服务组,为每个服务设置端口和流量权重,平台会自动为您计算出预计流量比例。每个服务的权重可输入的范围1-10的整数。同一分流策略中最多支持添加10个服务。 |
| 云原生网关 | 需指定一个服务所属资源池关联的云原生网关作为此流量策略中所有服务的统一流量入口。 |
- 点击 确定 创建流量策略,创建成功后,请求将按照策略设置的权重分流到每个服务。
查看调用信息
流量策略创建成功后,在流量策略列表找到对应策略,点击 调用信息 查看统一的流量入口公网、VPC内网调用地址。
