动态加速 DRCDN

在批量变更页面中，用户可以对容器应用的所有容器配置进行批量变更，该操作会 导致容器组批量重启 ，请谨慎操作。 镜像修改 点击容器应用操作栏的【镜像修改】按钮，即可进入镜像修改页面。 在镜像修改页面，用户可以从仓库中选择镜像。目前支持 百度智能云私有镜像 ， 百度智能云共有镜像 ， Docker Hub镜像 和 用户私有镜像 四种镜像。

查看更多>>

用户指定容器，选择开始时间和结束时间，查询结果为该段时间内的日志信息。 “连接”为用户提供了webshell配置界面。用户选择容器和命令方式后，点击“连接”登录容器成功，开始配置容器。 重启容器 说明： 重启容器，可能导致系统盘中临时数据丢失，重启前请确认已经备份过数据。 在左侧导航栏点击“边缘容器”展开，点击“容器组管理”，进入容器组管理列表页面。 点击操作栏“重启”，等待容器组完成重启。

查看更多>>

Debug Notebook代码：Notebook天然就是适合Debug的形态，每个Cell单独执行就可即时看到运行输出，可以直接用 print() 输出关键变量值。 Debug Python代码：在WebIDE中使用VSCode标准的设置断点及运行调试功能。

查看更多>>

推理参数说明 本文为您介绍AIAK-inference适用的推理参数详情，建议您在使用AIAK-inference进行模型推理加速前先通过本文档进行了解学习 量化参数 参数名 取值类型 是否必选 默认值 可选值 描述 -i str 是 原始模型权重输入路径 -o str 是 量化后的模型权重输出路径 -quant_type str 是 weight_only_int8、smooth_quant、awq

查看更多>>

必填， 默认不申请，启用时需进一步选择加速芯片类型、加速芯片数 加速芯片类型 必填， 选择加速芯片类型 加速芯片数 选填， 设置加速芯片数，不填写或填写0时表示不带加速芯片 CPU 选填 ，默认值：不限；设置开发机占用的最多CPU核数 内存 选填 ，默认值：不限；设置开发机占用的最大内存大小 共享内存 选填 ，默认值10Gi，一般使用默认值即可，如业务有额外需求，可以按需修改 共享内存（shared

查看更多>>

全托管资源池 ：免运维资源池，您无需运维和管理资源池和算力资源，由平台保障资源池稳定性 服务 仅支持Prefill和Decode两种角色且固定角色名不能修改 资源池队列 不能跨资源池，一组中的多角色服务可以跨资源队列 资源规格 选择部署服务所需的加速芯片类型和卡数、CPU、内存；加速芯片类型选择 “不使用加速芯片”即部署CPU服务。

查看更多>>

Layer）的梯度进行全规约操作的时间 PP通信耗时 forward-recv-time 在分布式训练或者模型并行中，接收前向计算所需数据的时间（通信） forward-send-time 在分布式训练或者模型并行中，发送前向计算结果数据的时间（通信） backward-recv-time 在分布式训练或者模型并行中，接收用于反向传播计算的梯度数据的时间（通信） backward-send-time

查看更多>>

日志检索 平台支持日志关键字的全文检索能力。 平台内置全文分词符号，支持基于分词后的关键字进行检索。预置关键词如下： 同时支持多个关键字检索能力，如查询内容为 service not available ，则表示查询包含关键字 service 、 not 、 available 的日志 上下文查询 日志检索后，支持查看日志上下文，获取更多信息。

查看更多>>