CCE 节点 CDS 扩容 CCE 节点 CDS 扩容 节点服务迁移 以节点 192.168.16.27 为例说明,执行 drain 驱逐节点服务: # kubectl drain 192.168.16.27 --ignore-daemonsets 检查节点状态为 SchedulingDisabled : # kubectl get nodes NAME STATUS ROLES AGE VERSION
添加CGroup V2节点 Kubernetes采用CGroup实现容器的资源隔离。CGroup V2统一了访问资源的路径,支持Pod级别的资源监控、网络重定向,同时在跨多资源协调上具备更强的资源隔离能力。本文将介绍如何在CCE控制台添加CGroup V2节点。 背景信息 Kubernetes采用CGroup实现容器的资源隔离。
使用vLLM加速大模型推理 vLLM(Vectorized Large Language Model)是一个高性能的大型语言模型推理库,支持多种模型格式和后端加速,适用于大规模语言模型的推理服务部署。 准备环境和资源 可根据资源规模、稳定性、灵活性等要求按需准备轻量计算实例或通用计算资源池,用于快速部署vLLM。
重启节点 概述 GaiaDB 提供了重启节点功能,您可以在控制台上手动重启节点解决数据库连接和性能问题。 注意事项 重启节点将导致连接该节点的访问入口可能发生阻塞。重启节点的过程中,可能会出现连接闪断。建议您在业务低谷期执行重启节点操作并确保应用具备重连机制。 重启节点的时间长短跟您业务的数据量有关,可能需要几个小时,请谨慎操作。 集群状态为非运行中时,不支持重启节点操作。
使用LLaMA Factory快速微调开源大模型 准备环境和资源 可根据资源规模、稳定性、灵活性等要求按需准备轻量计算实例或通用计算资源池,用于快速部署LLaMA Factory。
存储节点变更配置 变配入口 实例详情 在实例详情页面,配置信息模块,点击“节点变配”,跳转到“节点详情-存储节点”。选择需要变配的存储节点,点击“节点变配”,即可进行存储节点配置变更操作。 节点详情 在节点详情页面,存储节点模块,选择一个存储节点,点击“节点变配”,即可进行存储节点配置变更操作。
关闭节点显存共享功能注意事项 1.关闭节点显存共享功能说明 开启显存共享功能的节点需要关闭显存共享功能时,系统会验证当前节点上是否有正在运行的显存共享任务,需等该节点所有显存共享任务都运行完成后才能够关闭显存共享功能,否则可能导致显存共享任务中断或任务结束时无法正常回收资源,影响节点上的后续任务。 您可以通过2、3提供的命令查看开启了显存共享的节点和查看该节点上显存共享任务的情况。
在监控管理页面中,分为集群监控、节点监控、代理监控页签,默认选中集群监控页签。 点击 节点监控 页签,切换到节点监控。 选择 最近 统计项,如:1小时。节点选择 读写节点或者只读节点名称 。 7.即可查看筛选出的节点统计图表数据。 监控指标 监控项 统计指标 QPS(每秒请求数) 统计值:平值、和值、最大值、最小值、样本数 统计周期:1分钟、5分钟、20分钟、1小时、6小时、12小时、1天。
在集群页面,找到需要扩容的集群,单击扩容节点。 在扩容节点面板,完成节点配置。扩容时,支持增加新建节点,请根据需要选择对应的页签进行配置。 执行结果 扩容后,新增计算节点会自动安装集群软件并初始化,原有计算节点的使用不受影响。 您可以在集群列表中选择扩容的集群,点击集群名称,在节点管理列表中,即可查看已扩容节点的状态。当该节点状态为运行中,说明扩容集群已完成。
更新入口新节点自动加入配置 更新入口新节点自动加入配置 接口描述 本接口用于修改入口新节点自动加入配置。