理解深度学习： 第六章 训练模型 千帆社区
然而，它在简单形式下向最近的极值移动可能是一个缺点，特别是当我们接近山顶而非山谷底部时，可能会是一个最大值。此外，对于参数众多的情况，如神经网络，计算海森矩阵的逆变得不切实际。 SGD 的特性 ：当学习率趋近于零时，SGD 的极限是一种随机微分方程。Jastrzębski 等（2018）指出，这一方程依赖于学习率与批量大小的比例，并发现学习率与批量大小比例与找到的最小值的宽度有关。
配置专家模式表格数据预测任务 - BML 全功能AI开发平台 | 百度智能云文档
配置专家模式表格数据预测任务 表格预测任务支持AutoML和专家两种运行方式： AutoML模式：全流程自动建模，用户只需设置数据集、目标列以及制定任务类型即可，而无需关注数据处理以及算法配置等过程，系统会自动完成建模过程，并从中挑选最优的模型作为训练任务的运行结果。 专家模式：高度开放的建模方式，用户可以进行特征工程、算法、超参搜索等配置，具备相关技能的开发者可以在方式下获得更多的开发自由度。
HTTPS传输加密实践 对象存储（BOS）
HTTP的连接很简单，是无状态的，而HTTPS协议是由SSL+HTTP协议构建的可进行加密传输、身份认证的网络协议，比HTTP协议更安全。 使用HTTPS保障BOS数据安全性 BOS目前已经全面支持HTTP与HTTPS的传输协议，使用HTTP和HTTPS与BOS的交互过程如下图所示。
模型训练 - 百度数据可视化Sugar BI | 百度智能云文档
目前支持的算法种类如下： 二分类 分布式随机森林 梯度提升机 朴素贝叶斯 支持向量机 深度神经网络 XGBoost 多分类 分布式随机森林 梯度提升机 朴素贝叶斯 支持向量机 深度神经网络 XGBoost 回归 分布式随机森林 梯度提升机 深度神经网络 XGBoost 算法的说明可以在选择之后在右侧查看： 配置预测算法 最后一步是配置预测算法的参数，如果选择 AutoML，这里只需要配置训练 / 验证集划分比例
数据模型可视化功能说明 - BML 全功能AI开发平台 | 百度智能云文档
组件名称 展示图表 作用 Scalar 折线图 动态展示损失函数值、准确率等标量数据 Image 图片可视化 显示图片，可显示输入图片和处理后的结果，便于查看中间过程的变化 Audio 音频可视化 播放训练过程中的音频数据，监控语音识别与合成等任务的训练过程 Graph 网络结构 展示网络结构、节点属性及数据流向，辅助学习、优化网络结构 Histogram 直方图 展示训练过程中权重、梯度等张量的分布
自动超参搜索配置参考 - BML 全功能AI开发平台 | 百度智能云文档
详细超参数列表请见下面超参数列表 搜索超参数列表 超参数 参数类型 说明 batch_size 离散值、随机整数 每一个批次处理的数据数量，需根据网络不同机型和网络调整最大值，否则可能因显存不足导致失败 learning_rate 离散值、平均采样、对数平均采样 控制深度学习网络的学习速度，学习率越低，损失函数的变化速度就越慢，反之亦然 weight_decay 离散值、平均采样、对数平均采样 对深度学习网络进行权重衰减
数据加密 对象存储（BOS）
使用客户端加密时，会为每个Object生成一个随机数据加密密钥，用该随机数据加密密钥明文对Object的数据进行对称加密。主密钥用于生成随机的数据加密密钥，加密后的内容会当作Object的元信息保存在服务端。解密时先用主密钥将加密后的随机密钥解密出来，再用解密出来的随机数据加密密钥明文解密Object的数据。主密钥只参与客户端本地计算，不会在网络上进行传输或保存在服务端，以保证主密钥的数据安全。
DTS支持专线迁移_解决方案实践
1.4 启动 rinetd 进程 二进制默认目录为/usr/sbin/rinetd，在该目录下运行 rinetd 二进制文件即可。 如果修改了 rinetd.conf 文件，需要先 kill 掉 rinetd 进程，再重启 rinetd 进程，新的配置才会生效。
超参数配置参考 - BML 全功能AI开发平台 | 百度智能云文档
这个过程是从遗传算法获得的灵感，种群的初始化采用随机的方式生成，个体的优胜劣汰具体指利用(exploit)和探索(explore)两个步骤，不仅可能会从表现较好的个体中复制参数，它还能通过随机扰动修正当前的值而探索新的超参数组合。百度创新提出了随机微分方程无梯度优化算法PSHE2，采用哈密尔顿动力系统搜索参数空间中“势能”最低的点以替代随机扰动，加速迭代收敛。
盖楼大赛第二期 | 大模型梦想家：你希望通过大模型产品解决哪些实际问题？ 千帆社区
大模型开发 / 技术交流 社区上线 开箱评测 2023.09.11 7439 看过 盖楼大赛参与方式 9/05 - 9/27活动期间，社区管理员将会每周发布一个主题图文，在该图文下发帖参与互动，就有机会获得随机掉落的惊喜奖励 活动节奏 9月5号起，每周将会解锁一个新的话题贴，敬请期待 活动奖励 每个话题图文评论每增加10条，就在新增的10层楼中随机抽取两名用户送出惊喜奖励 每个图文的10/20/30
