通过百舸平台快速开始 FastWAM 训练
更新时间:2026-07-08
概述
FastWAM 训练加速镜像面向具身智能模型训练场景,预置 FastWAM 训练所需的基础运行环境、依赖组件和性能优化配置,可在百舸 AIHC 平台上快速启动容器并完成数据集、模型权重准备及训练验证。
本文介绍如何使用 FastWAM 训练加速镜像在百舸环境中准备运行环境、下载 BOS 中已缓存的数据集与模型权重,并执行 FastWAM 训练任务。
准备工作
使用前请确认已具备以下条件:
- 使用上述镜像创建GPU开发机,GPU 最小要求pro6000* 8,创建开发机详见:https://cloud.baidu.com/doc/AIHC/s/Tm6db1z9p
- 开发机已挂载可读写的持久化存储目录(可挂载 PFS)
- 已根据平台环境准备好 BOS 下载工具,详见:https://cloud.baidu.com/doc/BOS/s/qjwvyqegc
目录规划
本文以 FastWAM 项目位于 /root/workspace/FastWAM 为例说明。建议将数据集与权重放置到如下目录:
Bash
1/root/workspace/FastWAM
2├── checkpoints/
3│ ├── Wan-AI/
4│ │ ├── Wan2.2-TI2V-5B/
5│ │ └── Wan2.1-T2V-1.3B/
6│ ├── DiffSynth-Studio/
7│ │ └── Wan-Series-Converted-Safetensors/
8│ ├── fastwam_release/
9│ └── ActionDiT_linear_interp_Wan22_alphascale_1024hdim.pt
10└── data/
11 ├── libero_mujoco3.3.2/
12 └── robotwin2.0/
准备数据集
FastWAM 使用的预处理数据集已从外网地址缓存至 BOS。使用时请从 BOS 下载到项目对应目录,避免在训练环境中直接访问外网。
下载 LIBERO 数据集
Bash
1cd /root/workspace/FastWAM
2mkdir -p data/libero_mujoco3.3.2
3
4bcecmd bos sync \
5 bos:/aihc-rdw-bj/huggingface.co/datasets/yuanty/LIBERO-fastwam/ \
6 data/libero_mujoco3.3.2/
7
8cd data/libero_mujoco3.3.2
9for f in *.tar.gz; do
10 tar -xzf "$f"
11done
解压后的目录结构应包含:
Bash
1data/libero_mujoco3.3.2/
2├── libero_10_no_noops_lerobot/
3├── libero_goal_no_noops_lerobot/
4├── libero_object_no_noops_lerobot/
5└── libero_spatial_no_noops_lerobot/
下载 RoboTwin 数据集
Bash
1cd /root/workspace/FastWAM
2mkdir -p data/robotwin2.0
3
4bcecmd bos sync \
5 bos:/aihc-rdw-bj/huggingface.co/datasets/yuanty/robotwin2.0-fastwam/ \
6 data/robotwin2.0/
7
8cd data/robotwin2.0
9cat robotwin2.0.tar.gz.part-* | tar -xzf -
解压后的目录结构应包含:
Bash
1data/robotwin2.0/
2└── robotwin2.0/
3 ├── data/
4 ├── meta/
5 └── videos/
如果根目录下保留了 data/robotwin2.0/dataset_stats.json,可直接作为当前仓库配置中的统计文件使用,也可以根据需要重新计算。
准备模型权重
训练和推理前均需要准备模型权重。相关外网权重已缓存至 BOS,请从 BOS 下载到 checkpoints 目录。
下载权重
Bash
1cd /root/workspace/FastWAM
2mkdir -p checkpoints/Wan-AI/Wan2.2-TI2V-5B \
3 checkpoints/Wan-AI/Wan2.1-T2V-1.3B \
4 checkpoints/DiffSynth-Studio/Wan-Series-Converted-Safetensors \
5 checkpoints/fastwam_release
6
7bcecmd bos sync \
8 bos:/aihc-models-bj/Wan-AI/Wan2.2-TI2V-5B/ \
9 checkpoints/Wan-AI/Wan2.2-TI2V-5B/
10bcecmd bos sync \
11 bos:/aihc-models-bj/Wan-AI/Wan2.1-T2V-1.3B-Diffusers/ \
12 checkpoints/Wan-AI/Wan2.1-T2V-1.3B/
13bcecmd bos sync \
14 bos:/aihc-models-bj/noodlepop/Wan-Series-Converted-Safetensors/ \
15 checkpoints/DiffSynth-Studio/Wan-Series-Converted-Safetensors/
16bcecmd bos sync \
17 bos:/aihc-models-bj/yuanty/fastwam/ \
18 checkpoints/fastwam_release/
FastWAM release 权重目录下载完成后应包含:
Bash
1checkpoints/fastwam_release/
2├── libero_uncond_2cam224.pt
3├── libero_uncond_2cam224_dataset_stats.json
4├── robotwin_uncond_3cam_384.pt
5└── robotwin_uncond_3cam_384_dataset_stats.json
生成 ActionDiT 主干权重
在训练或推理前,需要预生成 ActionDiT 主干权重。
Bash
1cd /root/workspace/FastWAM
2
3mkdir -p checkpoints/Wan-AI/Wan2.1-T2V-1.3B/google
4
5ln -s ../../Wan2.2-TI2V-5B/google/umt5-xxl \
6 checkpoints/Wan-AI/Wan2.1-T2V-1.3B/google/umt5-xxl
7
8export DIFFSYNTH_MODEL_BASE_PATH="$(pwd)/checkpoints"
9export DIFFSYNTH_SKIP_DOWNLOAD=true
10
11python scripts/preprocess_action_dit_backbone.py \
12 --model-config configs/model/fastwam.yaml \
13 --output checkpoints/ActionDiT_linear_interp_Wan22_alphascale_1024hdim.pt \
14 --device cuda \
15 --dtype bfloat16
生成后应存在以下文件:
Bash
1/root/workspace/FastWAM/checkpoints/ActionDiT_linear_interp_Wan22_alphascale_1024hdim.pt
启动训练
完成数据集与权重准备后,可执行以下命令启动训练验证:
Bash
1cd /root/workspace/FastWAM
2
3export TORCHINDUCTOR_MIX_ORDER_REDUCTION=0
4export FASTWAM_SDPA_BACKEND=cudnn
5export FASTWAM_CUDNN_BENCHMARK=1
6
7accelerate launch \
8 --config_file scripts/accelerate_configs/accelerate_zero2_ds_bucket200m.yaml \
9 --num_processes 8 \
10 scripts/train.py \
11 task=libero_uncond_2cam224_1e-4 batch_size=54 num_workers=12 \
12 max_steps=50 log_every=1 eval_every=999999 save_every=999999 \
13 seed=42 wandb.enabled=false \
14 ++encode_overlap=true ++encode_prefetch_factor=4 \
15 ++dataloader_persistent_workers=true \
16 ++compile_mot=false ++compile_vae=true ++compile_vae_mode=default
训练正常启动后,日志中会出现模型组件加载、数据集解析、ZeRO 优化器初始化及训练 step 输出。例如:
Plain Text
1Loading Wan2.2-TI2V-5B components...
2Finished loading Wan2.2-TI2V-5B components
3Initialized MoT with experts: ['video', 'action']
4Train/val dataset size: ...
5Starting training with max_steps=50
6step=1/50 loss=...
注意事项
- 本文中的 BOS 路径用于替代 Hugging Face、ModelScope 等外网下载地址,建议在百舸训练环境中优先通过 BOS 获取数据和权重。
- 示例中的 BOS 下载使用
bcecmd bos sync:先创建目标目录,再将 BOS 路径同步到对应本地目录。 Wan2.1-T2V-1.3B在 BOS 中的目录名为Wan2.1-T2V-1.3B-Diffusers,下载到本地后可按项目配置放置到checkpoints/Wan-AI/Wan2.1-T2V-1.3B。- 训练命令中的
--num_processes 8、batch_size=54、num_workers=12等参数与 GPU 数量、显存规格和数据盘性能相关,可按实际资源规格调整。 - 若训练时出现模型文件或数据文件找不到的问题,请优先检查本地目录结构是否与本文建议目录一致。
评价此篇文章
