配置AB测试版本 BML在线服务中,同一服务支持同时部署两个模型上线,并且可以自由的调节流量分配占比 前提条件 已创建的在线服务,处于 运行中 状态时,允许添加一个AB测试版本模型上线 操作步骤 在左侧导航栏中选择“模型部署”>“在线服务” 服务列表中,对于处于 运行中 状态的服务,点击 新增版本 ,添加AB测试版本 配置AB测试版本模型,包括流量占比和资源配置 点击部署,完成部署后,该服务下将有两个模型同时运行
获取模型版本的高级配置 功能介绍 用于获取模型版本的自定义高级配置。 使用说明 本文API支持通过Python SDK、Go SDK、Java SDK 和 Node.js SDK调用,调用流程请参考 SDK安装及使用流程 。
负载均衡专属集群与负载均衡共享集群的区别: 对比项 专属集群 共享集群 配置独享 支持 不支持 流量隔离 支持 不支持 精准导流 支持 不支持 业务隔离 支持 不支持 集群性能 支持指定性能规格和一键扩容升级 集群性能存在上限,遇到性能瓶颈多用户相互争抢 集群监控 支持 不支持 关联实例 支持 不支持 价格 按集群收费,预付费形式,BLB实例不再收费 仅收BLB配置费用
操作步骤 配置UDP监听包括“配置信息”和“健康检查设置”两部分。 开启健康检查后,BLB将自动屏蔽不健康的后端服务器。 选择“产品服务>负载均衡BLB”,进入负载均衡BLB列表。 点击“负载均衡ID/名称”列的ID链接,进入实例详情页。 点击“监听设置”>“添加监听设置”,进行监听器的基本设置和健康检查设置。BLB协议选择“UDP”。 设置配置信息。
健康检查异常排查 场景介绍 负载均衡的健康检查是一种机制,用于定期检测后端服务器或服务的状态,来确保负载均衡器只将流量分配给那些处于正常工作状态的服务器。通过健康检查,负载均衡器可以实时了解后端服务的可用性,快速检测并隔离故障节点,确保系统的稳定性和性能。在有些时候,我们会遇到不明原因的健康检查异常情况,本文中将介绍几种可能的健康检查异常原因以及对应的排查方式。
访问控制 创建负载均衡后,您可以通过配置负载均衡所在子网对应的ACL或者关联安全组,实现负载均衡实例级别的访问控制。 说明: Ping负载均衡的内网IP或者绑定的EIP,由负载均衡集群响应,不会转发到后端服务器,不受ACL和安全组的访问控制。 BLB支持ACL 您能够在负载均衡所在的子网对应的ACL中配置相应的规则,实现负载均衡实例级别的访问控制。ACL使用可参照 ACL操作指南 。
添加TCP监听器 配置监听包括“配置信息”和“健康检查设置”两部分。 选择“产品服务>负载均衡BLB”,进入负载均衡BLB列表。 点击“负载均衡ID/名称”列的ID链接,进入实例详情页。点击“监听设置”页签,点击“添加监听设置”按钮,以配置TCP监听器为例,进行监听器的基本设置和健康检查设置。 配置信息 可根据页面提示进行监听器端口的相关设置。
配置UDP监听器 场景简介 UDP流量的常见应用场景有:DNS服务、物联网及一些对数据传输可靠性要求不高的场景。 操作步骤 配置UDP监听包括“配置信息”和“健康检查设置”两部分。 开启健康检查后,BLB将自动屏蔽不健康的后端服务器。 选择“产品服务>负载均衡BLB>IPv6实例”,进入负载均衡BLB列表。 点击负载均衡的名称,进入实例详情页。
基本概念 百度负载均衡主要包含以下几个基本概念: 负载均衡实例:由百度负载均衡集群提供的虚拟服务。可以提供基于多种监听器(TCP、UDP、HTTP、HTTPS)的负载均衡服务。 监听器:监听器用于将用户请求转发至后端服务器,再把后端服务器的响应返回给用户。监听器配置有监听协议和监听端口,并按照转发规则将请求转发给后端服务器的端口。监听器还提供了后端服务器的健康检查功能。