使用TensorRT加速深度学习推理 - GPU云服务器 | 百度智能云文档
对于前期快速定位模型问题，性能测试，生成engine，神经网络性能，选择的优化路径等具有重要的指导意义。
Prompt 技巧宝典（五）：思维树提示 千帆社区
RAG/Agent多项能力再升级，速来解锁～ AppBuilder 44 看过
Prompt 技巧宝典（五）：思维树提示 千帆社区
RAG/Agent多项能力再升级，速来解锁～ AppBuilder 44 看过
文件管理 对象存储（BOS）
断点续传上传 当用户向BOS上传大文件时，如果网络不稳定或者遇到程序崩等情况，则整个上传就失败了，失败前已经上传的部分也作废，用户不得不重头再来。这样做不仅浪费资源，在网络不稳定的情况下，往往重试多次还是无法完成上传。 基于上述场景，BOS提供了断点续传上传的能力: 当网络情况一般的情况下，建议使用三步上传方式，将object分为5Mb的块，参考 分块上传 。
使用rsync从旧文件系统同步到CFS文件系统 - 文件存储CFS | 百度智能云文档
1 * * * rsync -zvr /old_fs/sub_folder_1/ user@bcc_ip:/mnt/cfs/sub_folder_1 可通过如下命令查看crontab命令是否配置成功。
大模型平台常用概念
动态图编程 采用 Python 的编程风格，解析式地执行每一行网络代码，并同时返回计算结果。体验更佳、更易调试，但是因为采用 Python 实时执行的方式，消耗较大，在性能方面与 C++ 有一定差距。 静态图编程 采用先编译后执行的方式。需先在代码中预定义完整的神经网络结构，框架会将神经网络描述为 Program 的数据结构，并对 Program 进行编译优化，再调用执行器获得计算结果。
大模型黑话指南（一） 千帆社区
自监督学习 大型语言模型本质上就是神经网络，也就是一种机器学习的方法。机器学习中的监督学习需要人类帮助标注数据。然而遗憾的是，ChatGPT 底层的大型语言模型参数如此的多，如果使用监督学习，必然需要大量的人类标记数据，这几乎是不可能的。自监督学习主要是利用辅助任务（pretext）从大规模的无监督数据中挖掘自身的监督信息，通过这种构造的监督信息训练模型，从而学习到对下游任务有价值的表征。
【FAQ】千帆大模型平台常见问题梳理 （模型微调篇） 千帆社区
Finetune（微调）就是在Pre-trained的模型后面加一些简单的类似全连接的神经网络，用业务数据在训练一下，学到行业内的知识, 相当于模型从100到110。 Post-training（后训练）就是预训练的二阶段，预训练是从零到1的搞了一个语言模型。Post-training是在预训练后的模型上，再来一波预训练，是语言模型的训练。后面的finetune是基于业务的微调。
Prompt自动化进阶之路：不会走也能飞 千帆社区
1）PE 为什么重要 NLP四大范式 第一范式： 非神经网络时代的完全监督学习 （ 特征工程 ）。大量任务相关的训练数据，借助特征工程和算法（朴素贝叶斯Naïve Bayes、支持向量机SVM、逻辑回归LR等）； 第二范式： 基于神经网络的完全监督学习 （ 架构工程 ）。
直接挂载迁移 - 并行文件存储PFS | 百度智能云文档
直接挂载迁移 适用场景 能够在百度云与IDC或三方云之间打通网络（如专线等），且需要将本地IDC或三方云的数据上传至PFS中。 基本原理 将PFS挂载至BCC中当做本地目录，利用数据同步工具（如rsync等）进行数据传输。 操作步骤 第一步：在同一VPC及可用区内创建BCC及PFS。 BCC创建方式请见： BCC创建实例 。
