强化学习训练加速 - 百度百舸 · AI计算平台 | 百度智能云文档
强化学习训练加速 简介 AIAK-RLHF是基于百舸AI计算平台面向大模型强化学习训练场景提供的最佳实践解决方案配套 AI 加速工具，帮助模型开发者高效完成大规模深度学习分布式训练，提升训练效率，在开源代码基础上，对ppo训练流程通过全混部方式进行加速。
千帆大模型训练营
大模型训练营》系列课程由百度智能云千帆大模型平台官方出品，11月20日起围绕产品功能、案例解读、行业场景多个维度全面展开直播系列课程，带企业开发者和个人开发者零基础完成大模型应用开发！
大模型训练_分布式训练_模型评估千帆社区
消息函数练习 大模型开发 / 技术交流 开源大模型 文心大模型 大模型训练 10 11 赞过 1 评论 3840 看过 百度千帆社区 【千帆大模型训练营】 开启大模型卓越之门：模型优化的关键钥匙 直播回放 大模型开发 / 技术交流 千帆大模型训练营 大模型训练 赞 评论 5987 看过 百度千帆加油站 【开源工具接入千帆实战系列】在Cursor中接入千帆 百度智能云服务交付中心 8360 看过 【开源工具接入千帆实战系列
模型蒸馏功能板块上线，DeepSeek系列模型服务再升级：千帆ModelBuilder更新不停 千帆社区
模型蒸馏核心思想是利用一个效果较好的大参数规模模型（称为“教师模型”）的知识，来指导一个较小参数规模的模型（称为“学生模型”）的训练，使得学生模型在参数量和计算复杂度较低的情况下，尽可能接近甚至超越教师模型的效果。
训练说明 - 百度百舸 · AI计算平台 | 百度智能云文档
如果 SFT 数据集规模较少，采用【在线数据预处理】即可； 如果 SFT 数据集规模较大，为了减少训练之前的数据处理时间，可考虑【在线预处理+Streaming读取】的训练方式、或者提前进行数据【离线预处理】，再启动训练任务； 采用在线数据预处理： 用户在训练参数中通过 --data-path 指定到具体的 json 文件。
训练参数说明 - 百度百舸 · AI计算平台 | 百度智能云文档
one NA 序列长度 2模型组网参数 自动组网参数 参数名 取值类型 是否必选 默认值 枚举值 描述 --model-name string 是 无 可选值为“模型支持列表”中对应【Model Family】或【Model Architecture】值 模型名称，支持两种指定方式：（1）指定模型系列
3D柱图 - 百度数据可视化Sugar BI | 百度智能云文档
3D 柱图的数据绑定 下面介绍使用 SQL 方式绑定数据时的配置： 绑定 X，Y 轴字段 要绑定的 X，Y 轴字段可以通过下拉选单从在「SQL 模型」中配置过的字段中进行选择。并可以选择 X，Y 轴数据的排列顺序。
创建训练任务 - 百度百舸 · AI计算平台 | 百度智能云文档
执行命令 指定代码的执行命令 添加环境变量 添加环境变量，支持配置多个 基于开源模型训练模版创建 参数 说明 镜像地址 AIAK训练加速模版预置默认的训练镜像，不支持修改 执行命令 AIAK训练加速模版提供默认的参数，需要将数据集、CHECKPOINT、TOKENIZER以及Tensorboard的PATH替换成用户自定义路径 环境变量 AIAK训练加速模版提供默认的环境变量，不建议修改 执行命令中需要替换的参数如下
训练容错 - 百度百舸 · AI计算平台 | 百度智能云文档
为了保障大规模分布式训练任务稳定运行，百舸AI计算平台提供了任务自动容错的能力，支持对训练任务进行异常感知、容错判断以及自动恢复。 功能说明 为了保障大规模分布式训练任务的稳定运行，百舸提供了容错监控、诊断定位和自动恢复的能力。
训练性能监控 - 百度百舸 · AI计算平台 | 百度智能云文档
Layer）的梯度进行全规约操作的时间 PP通信耗时 forward-recv-time 在分布式训练或者模型并行中，接收前向计算所需数据的时间（通信） forward-send-time 在分布式训练或者模型并行中，发送前向计算结果数据的时间（通信） backward-recv-time 在分布式训练或者模型并行中，接收用于反向传播计算的梯度数据的时间（通信） backward-send-time
