模型权重格式转换与切分工具 产品介绍 模型权重格式转换与切分工具能够实现主流开源模型权重在Huggingface和Megatron框架间的转换,并支持Megatron框架下模型权重按照不同的DP、TP、PP并行策略进行切分。
修改TCP监听器 table td { white-space:nowrap; } 接口描述 本接口用于修改TCP监听器。 请求结构 PUT /v2/appblb/{blbId}/TCPlistener?
修改UDP监听器 table td { white-space:nowrap; } 接口描述 本接口用于修改UDP监听器。 请求结构 PUT /v2/appblb/{blbId}/UDPlistener?
响应参数 参数名称 类型 描述 requestId String 请求ID clusterId String 集群ID status String 集群状态 错误码 错误码 错误描述 HTTP状态码 中文解释 BadRequest description should be different. 400 修改的集群描述应该与当前集群描述不一样 请求示例 PUT /v 1 /cluster/c-arPHgRIb
切割逻辑修改 demo因为考虑到流式,采用了尽快切割的方法。
修改BEC服务属性 table td { white-space:nowrap; } 接口描述 本接口用于修改BEC服务属性。 请求结构 PUT /v2/vm/service/{serviceId}?
修改BEC虚机带宽 table td { white-space:nowrap; } 接口描述 本接口用于修改BEC虚机带宽。 请求结构 PUT /v2/vm/instance/{instanceId}?
修改BEC虚机镜像 table td { white-space:nowrap; } 接口描述 本接口用于修改BEC虚机镜像。
修改NAT网关带宽 table td { white-space:nowrap; } 接口描述 本接口用于修改BEC NAT网关带宽。
修改NAT网关带宽 table td { white-space:nowrap; } 接口描述 本接口用于修改BEC NAT网关带宽。