Layer)的梯度进行全规约操作的时间 PP通信耗时 forward-recv-time 在分布式训练或者模型并行中,接收前向计算所需数据的时间(通信) forward-send-time 在分布式训练或者模型并行中,发送前向计算结果数据的时间(通信) backward-recv-time 在分布式训练或者模型并行中,接收用于反向传播计算的梯度数据的时间(通信) backward-send-time
配置参数介绍 概述 创建集群时,可以使用默认配置或者使用自定义创建的集群配置,其中涉及到的参数信息如下所示。 更新模式分为静态模式和动态模式,当发起集群配置变更时,如果涉及到的变更参数包含了静态模式的参数,则会触发集群的重启操作,如果仅涉及动态模式的参数,则不会触发集群的重启操作。 参数如果是必选,则在创建集群配置时必须设置该参数。
日志检索 平台支持日志关键字的全文检索能力。 平台内置全文分词符号,支持基于分词后的关键字进行检索。预置关键词如下: 同时支持多个关键字检索能力,如查询内容为 service not available ,则表示查询包含关键字 service 、 not 、 available 的日志 支持前缀匹配的模糊检索方式, * 代表多个任意字符的词, ? 代表单个字符的词。
功能介绍 飞桨EasyDL桌面版提供数据处理、模型训练、模型部署全流程的模型生产能力。
API Explorer 去调试 您可以在 API Explorer 中直接运行该接口,免去您计算签名的困扰。运行成功后,API Explorer 可以自动生成 SDK 代码示例。 请求结构 Bash 复制 1 POST ?
Apollo 自动驾驶开放平台介绍 Apollo (阿波罗)是一个开放的、完整的、安全的平台,将帮助汽车行业及自动驾驶领域的合作伙伴结合车辆和硬件系统,快速搭建一套 属于自己的自动驾驶系统。 开放能力、共享资源、加速创新、持续共赢是 Apollo 开放平台的口号。
Bearer认证请在生产环境使用HTTPS协议,HTTP协议仅用于开发测试,因使用HTTP协议导致的Token泄漏,函数计算不承担安全责任。 函数计算仅负责存储和校验您配置的Token信息,Token的管理需要您自己负责。请及时轮换已经泄漏的Token和已经被证明是不安全的Token,Token使用时间较长时,也请主动轮换。
2024-05 新增AI加速套件,整合AIAK训练、推理加速镜像及训推加速过程中所需的一系列工具,轻松一键获取。 推理服务支持实例反亲和部署,避免单节点故障导致服务不可用。 推理服务实例弹性伸缩,在业务负载出现波峰或波谷时,可以根据业务流量自动调整实例数量,实现动态管理线上服务的计算资源,从而保障业务平稳运行并提高资源利用率。 推理服务支持设置防抢占策略,开启后实例不会被训练任务抢占。
错误码 推理服务接口业务错误码 Code Message HTTP Status Code 说明 InvalidParameter Invalid parameter 400 Bad Request 请求参数错误 NotImplemented Api is not implemented 400 Bad Request
故障自愈 功能概述 大模型训练过程中服务器会有极小概率出现硬件级别故障,特别是在大规模算力使用场景下,算力规模越大发生硬件故障的可能性越高。当发生硬件故障时可能会影响节点和节点上服务的正常运行。 针对这一场景,百舸提供故障自动感知、上报能力,并配合业务情况针对不同的故障信息执行一系列自愈操作(如封锁节点、重启、机器维修