负载均衡

如上配置因为考虑了服务可用性，每个服务有 2 个域名，因此还使用了 ip 轮询的负载均衡（ ip_hash ）。实际配置可根据用户自己的需求灵活调整，总之对前端接口代理后使之“看上去”同域即可。

查看更多>>

异步推理 百舸异构计算平台结合百度内部大模型实践，通过异步推理，推出基于Pull的推理请求调度方案，解决大语言模型推理场景中，输出不定长引起的排队耗时长、负载不均衡等问题。 使用说明： 1、为保证队列服务稳定性，推荐使用百度云 云数据库Redis 作为异步推理的存储资源。首次开启此能力，需要您手动填写以上数据库信息，完成关联。

查看更多>>

请求参数 参数名称 类型 是否必须 参数位置 描述 type String 是 URI参数 需要查询的节点种类，目前支持gpu、container、vm、lb、bm五种，分别代表创建GPU、容器、虚机、负载均衡、裸金属资源时可用的节点列表 country String 否 Query参数 指定查询某个国家下的节点列表，不传默认all，查询全部国家节点 响应头域 除公共头域外，无其它特殊头域。

查看更多>>

一般的架构建议和应用模式如下： CDN对外承载用户HTTP请求 CDN miss的数据会访问BOS 后端请求先经过BLB做负载均衡 用户的web server部署在BCC 热点数据可以用SCS缓存 系型数据库由RDS提供 网页的静态js/css/image等存BOS 视频云服务 随着各企事业网络的迅速发展及信息资源需求的不断增大，对于视频资源的保存、管理、下载、播放成为各服务机构迫切需要解决的问题。

查看更多>>

相同优先级实例之间按照权重分配流量（SDK2.0.1.1以上版本支持此功能，2.0.1.1以下版本无法编辑优先级，仅支持权重） 权重：分配到该组实例的流量权重 操作：删除 负载均衡策略： 流量分配到满足筛选条件的所有实例的分配策略，包括随机、轮询、加权轮询、平均响应时间 随机：随机分配到所有实例 轮询：轮询分配到所有实例 加权轮询：会将频繁访问出错的实例剔除，一定时间段后该实例将继续加入可访问的实例中

查看更多>>

云服务器BCC 专属服务器DCC GPU云服务器 弹性裸金属服务器 云手机 应用引擎 BAE 轻量应用服务器LS 弹性公网IP 私有网络 VPC 负载均衡 BLB 智能云解析 DNS 专线ET 云智能网 CSN 对象存储 BOS 文件存储 CFS 云磁盘 CDS 存储网关BSG 边缘计算节点 BEC 数据流转平台CloudFlow 内容分发网络 CDN 海外CDN 动态加速 DRCDN 并行文件存储

查看更多>>

百度智能云Elasticsearch提供了负载均衡功能，通过控制台提供的 BLB 进行访问，请求会平均分配到集群的各个数据节点上,当某个节点或者某个可用区不可用时，BLB 会自动过滤问题节点，保证集群稳定性。 专用主节点 为提高Elasticsearch集群可靠性，用户在使用多可用区部署时最少要创建三个专用主节点。当一个可用区不可用时，如果集群依然有半数以上主节点参与选举，集群可正常选主。

查看更多>>

如果您需要使用集群方式部署或需要做负载均衡，可以使用 Nginx 来做反向代理。反映在 License 中的「访问域名/IP」同样是用户从浏览器访问 Sugar BI 时使用的域名/IP，也即访问 Nginx 的域名/IP，不是集群中部署 Sugar BI 的服务器的 IP。

查看更多>>