概述

流量策略可以为多个服务提供一个统一的流量入口，根据流量策略将入口流量分配给各个服务，适用于灰度发布、异构资源调度等多种业务场景。本文介绍如何创建流量策略、设置多个服务的流量比例，以及查看流量入口。

前提条件

已登录 百舸 AI 计算平台 AIHC 控制台。

已准备可用的 AI 原生网关和在线服务。创建流量策略时，AI 原生网关需与服务所属资源池在同一 VPC，且仅支持绑定“运行中”状态的网关实例。## 应用场景

灰度发布

发布新版本时，可以先让新版本服务承载少部分流量，观察运行情况，若有问题可以及时调整新旧服务的流量比例。

异构资源弹性伸缩

当业务存在峰谷，对算力需求存在差异且资源紧张时，可以将多个服务部署在不同算力并加入一个流量策略，配合弹性伸缩功能，动态调整实例数及服务的流量比例。

创建流量策略

1. 进入 大规模训练与推理->在线服务部署->流量策略 页面。

2. 点击 【创建流量策略】，在弹窗中配置流量策略。

3. 配置流量策略参数。

参数	必填	说明
分流策略类型	是	支持按权重分流和按实例数分流。按权重分流时，根据各服务的权重进行加权分配。按实例数分流时，根据服务的运行中实例数动态分配流量比例。多角色服务不支持按实例数分流。
流量策略名称	是	支持小写字母、数字和 -，需以小写字母开头，以小写字母或数字结尾。
AI 原生网关	是	为流量策略指定请求入口网关。添加服务时，仅可选择与网关属于同一 VPC 的服务。
流量配置	是	仅可添加与请求入口 AI 原生网关属于同一 VPC 的服务。可以添加跨资源池的多个标准服务或多角色服务。设置自定义权重方式时，需为每个服务设置端口和流量权重，平台会自动计算预计流量比例。每个服务的权重可输入范围为 1-10 的整数。

注意： 不支持添加使用调度器部署的服务。相同的服务仅支持加入一个流量策略中。

4. 点击 【确定】 创建流量策略。创建成功后，请求将按照策略设置的权重分流到每个服务。

查看调用信息

1. 进入 大规模训练与推理->在线服务部署->流量策略 页面。
2. 在流量策略列表中找到目标流量策略，在 操作 列点击 【调用信息】，查看统一流量入口的公网调用地址和 VPC 内网调用地址。