大模型预训练

百舸平台提供大模型预训练的基础环境。您可以利用百舸平台提供的强大底层算力、高速网络和高性能存储，一站式搭建大模型预训练环境。平台支持多种主流训练框架，同时提供 AI 加速能力，帮助加速大模型预训练过程。

• 强大的算力资源：百舸平台提供多种 GPU 算力资源，包括 A100、A800 等，满足大模型训练场景的算力需求。
• 高速网络：百舸平台默认开启 RDMA 高速互联网络，保障大模型训练网络性能。
• 高性能存储：百舸平台使用百度云并行文件系统 PFS 作为高性能存储，为模型训练数据保驾护航。
• 支持多种训练框架：百舸平台支持 PyTorch、MPI 等主流训练框架，您可以提交并运行支持对应框架的训练任务。
• 百度验证的 AI 加速能力：百舸平台提供经百度内部验证的 AI 加速能力，实现大模型训练场景性能提升。

模型微调

您可以在百舸平台上对已经训练好的模型进一步调整参数，以适应特定任务或领域。通常情况下，微调会利用已有的模型参数和特定训练数据进行。

• 灵活的任务管理：百舸平台提供灵活的任务管理能力，可对任务进行复制、停止、删除等操作，方便在模型微调过程中调整参数。
• 强大的日志管理：百舸平台提供强大的日志管理能力、监控大盘展示能力，并集成 TensorBoard 功能。您可以通过日志、监控和 TensorBoard 实时查看任务运行情况，调整模型参数，提高训练效果。