配置预置RBAC权限策略 百舸提供了对接资源池和资源队列 RBAC的授权模式,便于对子用户进行细粒度的访问权限控制。本文介绍如何为子用户配置RBAC权限,实现对百舸资源池和资源队列的权限控制。 声明 百舸AI计算平台对RBAC 权限管理声明如下: 禁止未完成RBAC权限授予的子用户访问资源池资源,请及时联系主账号完成RBAC授权,以免带来生产上的不便。
百舸 AI 计算平台 AIHC 中集成了 Tensorboard 能力,本文档介绍如何在百舸 AI 计算平台 AIHC 中创建训练任务并开启 Tensorboard 服务,以及如何查询 Tensorboard。 前提条件 已登录百舸 AI 计算平台 AIHC 控制台。 已准备可用的资源池、训练队列及日志路径对应的存储资源。
使用CFC层管理依赖包-Python 现在 CFC 新增了“层( Layer )” 功能使得可以单独上传并集中管理CFC的依赖包了,这样开发者开发函数代码的时候只需要关注该函数本身的代码,依赖包只需要引用即可。这样有以下的好处。开发者可以只关注函数代码,不用考虑依赖包的部署。 Python依赖包制作 1.准备层目录环境
response_template response 的 token 数按单独分词的结果扣掉 BOS 计算,必须 >0 且不超过拼接后长度,否则该行按异常处理 拼接后不足 2 个 token 时因果 LM 没有有效 label 位(loss 为 nan),该行返回 None;无 query 的 loss 为 0 也返回 None 任一列为空/纯空白/非字符串返回 None;单条异常只影响该行,
前提条件 已接入监控实例 需启用采集任务,具体参考文档: 接入监控实例并启用采集任务 创建告警 登录 百舸AI计算平台AIHC控制台 ,点击 自运维资源池列表 ,选择资源池名称,进入资源池详情页面。 点击关联监控实例(CPROM)进入监控实例详情 在左侧控制栏中选择告警配置,点击创建告警。
资源池内 CCE Deep Learning Frameworks Operator 组件版本需不低于 1.6.17。您可以在 AI 计算资源 -> 全托管资源池 -> 资源池名称 -> 计算资源集群(CCE)-> 组件管理 中查询或升级组件版本。 资源池已接入百度云 Prometheus 监控服务 。接入方式请参见 资源池接入 Prometheus 监控实例 。
模型缓存加速配置 概述 功能简介 模型缓存加速服务是百舸·AI计算平台为优化模型加载效率而提供的核心功能。该服务利用计算节点的空闲内存构建缓存池,将公共BOS(Baidu Object Storage)路径中的模型文件预加载至本地内存。通过减少对远端存储的依赖,显著降低模型重复下载时间,从而大幅提升在线服务的部署、扩容及推理任务的启动速度。
死信队列管理 CFC支持配置死信队列,如果用户设置了死信队列,则异步调用重试3次失败的事件会直接发送到用户的死信队列中,以供用户分析失败原因。 配置死信队列 有以下两种方式为函数配置死信队列: 通过API方式:在创建函数或更新函数配置接口中指定函数的DeadLetterTopic 通过控制台:在创建函数后,进入函数详情
计费公式 费用 = 资源规格 ∗ 单价 ∗ 使用时长 详细算力价格信息,请参见 边缘计算节点BEC价格说明 。 到期提醒和处理 到期提醒:BEC服务到期前7天、3天、1天,系统均会给您发送即将到期提醒通知。 到期后处理:到期后立即停服,系统会发送欠费停服通知,停服后资源关闭数据保留,7天后释放。
删除资源池 概述 当资源池不再使用时,您可以在百度百舸·AI 计算平台控制台删除资源池。删除资源池前,需要先清理资源池中的工作负载、队列和相关计算资源,避免因存量资源未释放导致删除失败。资源池删除后无法恢复, 执行删除前,请确认资源池已不再承载业务,并已备份需要保留的数据。 前提条件 当前用户已具备 AIHCFullControlPolicy 权限。