多服务流量分流
更新时间：2025-11-27
【官网文档】多服务流量控制
流量策略可以为多个服务提供一个统一的流量入口，根据流量策略将入口流量分配给各个服务，适用于灰度发布、异构资源调度等多种业务场景。本文将介绍如何创建流量策略、设置多个服务的流量比例、查看流量入口。
应用场景
灰度发布
发布新版本时，可以先让新版本服务承载少部分流量，观察运行情况，若有问题可以及时调整新旧服务的流量比例。
异构资源弹性伸缩
当业务存在峰谷，对算力需求存在差异且资源紧张时，可以将多个服务部署在不同算力并加入一个流量策略，配合弹性伸缩功能，动态调整实例数及服务的流量比例。
创建流量策略
- 登录百舸AI计算平台AIHC控制台，点击左侧导航栏中的 在线服务部署 进入列表页面
- 点击 流量策略 页签，创建流量策略
- 在创建页面中填写相关参数，具体参数如下 ：
| 参数名称 | 参数说明 |
|---|---|
| 分流策略类型 | 支持自定义权重比例和按服务的实例数动态调整权重两种方式，多角色服务不支持按实例数分流。按权重分流：根据各服务的权重进行加权分配。例如，服务A的流量权重为100， 服务B的流量权重为400，则A分配20%流量，B分配80%流量。按实例数分流：根据服务的实例运行动态分配流量比例。例如：服务A 1个运行中的实例，服务B 4个运行中的实例。则A分配20%流量，B分配80%的流量。 |
| 流量策略名称 | 必填，支持小写字母、数字以及-且开头必须是小写字母，结尾必须是小写字母或数字 |
| 云原生网关 | 需要为流量策略指定一个请求入口网关，添加服务时仅可选择与网关属于同一VPC的服务 |
| 流量配置 | 1. 仅可添加与请求入口云原生网关属于同一VPC的服务。 2. 可以添加跨资源池的多个标准服务或多角色服务，设置自定义权重方式时，为每个服务设置端口和流量权重，平台会自动为您计算出预计流量比例。 3. 每个服务的权重可输入的范围1-10的整数。 注意：不支持添加使用调度器部署的服务。相同的服务仅支持加入一个流量策略中。 |
- 点击 确定 创建流量策略，创建成功后，请求将按照策略设置的权重分流到每个服务
查看调用信息
流量策略创建成功后，在流量策略列表找到对应服务，点击 调用信息 查看统一的流量入口公网、VPC内网调用地址。