配置重试策略 概述 重试策略用于在后端服务返回特定错误时,由网关自动发起重试,提升请求的最终成功率。配合超时策略一起使用,可在后端瞬时抖动或个别节点不可用时显著降低对调用方的影响。 重要 重试会放大下游负载。请结合后端业务的幂等性、容量与超时设置合理配置重试次数与触发条件,避免引发雪崩。
负载均衡专属集群计费 计费模式 负载均衡专属集群使用集群性能容量单位CCU(Cluster Capacity Unit)来衡量BLB集群处理流量时涉及的各个指标。 计费规则 专属集群收费方式为:包年包月计费,采用预付费方式进行支付。
简介 百度负载均衡BLB(Baidu Load Balance)是百度智能云对外提供的稳定、安全、高效的负载均衡服务。可以均衡应用流量,实现故障自动切换,消除故障节点,提高业务可用性。 BLB对外提供Restful API。本文档对BLB开放的API进行详细描述。 目前BLB提供创建/查询/删除类API,之后会发布修改类API。
适用场景 下列场景下推荐配置跨域策略: 前端应用与网关入口域名不一致 :例如前端部署在 https://app.example.com ,网关入口为 https://aigw.example.com ,浏览器会按同源策略阻止前端直接调用网关接口,需要在网关侧开启 CORS。
配置超时策略 概述 超时策略用于限制网关向后端服务发起请求并等待响应的最长时间。当后端在指定时间内未返回响应时,网关将主动中断本次请求,避免连接长时间挂起占用资源。 适用场景 下列场景下推荐配置超时策略: 避免推理任务长尾拖垮网关 :某些大模型在长上下文或复杂推理任务下耗时显著高于平均水平,开启超时可防止个别长尾请求占用大量连接、影响整体吞吐。
添加后端服务器 在负载均衡实例列表页,点击实例进入实例详情页。 在实例详情页,点击“后端服务器”,进入后端容器组列表页。 点击“添加后端服务器”,选择指定的部署组,点击“下一步”。 为容器组配置权重,权重配置完成,点击“确定”,完成操作。 数据监控 监听信息包括前端/后端协议和端口。 在负载均衡实例列表页,点击实例进入实例详情页。 在实例详情页,点击“监控”,包括公网IP和端口数据监控信息。
2021-11 新增 负载均衡专属集群 ,提供性能可控、资源独享、物理资源隔离的专属负载均衡服务,满足超高性能和独占资源需求。 2021-09 负载均衡实例支持 安全访问控制 ,通过配置负载均衡所在子网对应的ACL或者关联安全组,实现负载均衡实例级别的访问控制。 2021-09 普通型 BLB 监听器、应用型服务器组 -- UDP 端口增加 ICMP 健康检查类型。
为了使网站能够提供外网访问,需要在CCE下创建一个负载均衡实例并绑定EIP。操作可以通过clientSet创建负载均衡服务实现,相关代码如下所示。
产品优势 高可用 百度负载均衡基于多层级容灾设计,为业务系统提供企业级高可用保障: 百度负载均衡BLB(Baidu Load Balance),采用自研4/7层负载均衡器,通过多机房与容灾实例的集群化部署,提供99.95%的服务可用性保证。百度负载均衡专属集群LBDC(Load Balance Dedicated Cluster)提供 99.975%的服务可用性保证。
系统策略 系统策略包含管理权限、运维权限和只读权限3种策略,权限范围详细如下: 策略名称 权限说明 权限范围 BLBFullControlAccessPolicy 完全控制管理负载均衡实例(BLB)的权限 查看实例列表、查看实例详情、修改BLB名称及描述、监听器配置、后端服务器配置、实例监控、实例报警、创建BLB实例、释放BLB实例 BlBOperateAccessPolicy 运维操作负载均衡(BLB