百度智能云BOS数据复制
背景信息
本文介绍BOS存储桶数据复制的操作教程。百度智能云数据流转平台是百度智能云提供的存储产品数据迁移服务。使用该服务,您不仅可以将第三方数据迁移至百度智能云对象存储 BOS,也能轻松实现对象存储BOS各存储桶间的数据复制。
使用数据流转平台 CloudFlow,您只需在控制台填写源数据地址和目标 BOS 地址信息,并创建复制任务即可。启动复制后,您可以通过控制台管理复制任务,查看复制进度等信息;也可以查看复制失败文件列表,并中断、删除、恢复复制任务等。
适用场景
- 异地容灾:BOS 为对象数据提供了99.9999999999%(12个9)的可用性,但仍然存在各种不可抗因素如战争、自然灾害等因素导致数据丢失。如果您无法忍受因数据丢失带来的损失,希望显式地在不同存储桶维护一份数据副本,那么您可以通过存储桶复制实现数据的异地容灾,当某个数据中心因为不可抗因素损毁时,另一个存储桶的数据中心仍然可以提供副本数据以供您使用。
-
数据迁移与备份:您可以根据业务发展需要,将业务数据从一个存储桶复制到另一个存储桶,实现数据迁移和数据备份。
说明: 跨地域数据备份容灾与对数据复制延时要求高,追求低延时的场景推荐使用对象存储的数据同步功能。
准备工作
开始复制前,您需要在百度智能云 BOS 中做一些准备工作。
百度智能云BOS准备
预估复制数据
预估需要复制的数据,包括需要复制的存储量和复制文件个数。您可以登录百度智能云BOS 控制台,单击某个待复制存储空间的名称,查看待复制存储空间(Bucket)的存储量和对象(文件)数量。
说明: 复制任务的复制时间取决于待复制文件数量和文件容量。CloudFlow 会自适应您的复制带宽性能,但若文件数量和容量较大,复制时间可能较长。您可以在控制台查看复制进程,若有复制失败的文件,您可以导出失败文件并重传。
解冻存储空间待复制数据
对于百度智能云 BOS 的归档存储,您需要先在百度智能云将相应文件解冻(取回),待解冻完成后再创建复制任务。在线复制服务并不会对源端数据执行解冻操作。若您源端有未解冻、解冻中的文件,则这些文件都会复制失败。
说明: 请您务必解冻操作完成后再创建复制任务。请您根据待复制的数据总量确保解冻时长,以防复制期间数据再次变成冻结状态。解冻(取回)操作可能会收取一定费用,计费规则可咨询您的源存储空间服务运营商。
创建目标存储空间(Bucket)
创建目标存储空间,用于存放复制的数据。详情请参见创建存储空间。
复制实施
登录数据流转平台
1.登录数据流转平台CloudFlow
2.登录数据流转平台CloudFlow
进入控制台后,单击【新建迁移任务】,进入任务配置页面,进行参数的设置。
任务设置
您需要对迁移任务的名称和开始迁移时间进行设置。
配置项 | 配置描述 |
---|---|
任务名称 |
|
开始迁移时间 |
|
源端设置
您需要复制源端信息进行设置。
配置项 | 配置描述 |
---|---|
数据源端 |
|
源端 Endpoint |
|
源端 AccessKey |
|
源端 SecretKey |
|
源 Bucket 名称 |
|
源文件前缀 |
|
源文件时间范围 |
|
目的端设置
您需要复制目的端信息进行设置。
配置项 | 配置描述 |
---|---|
目的端 AccessKey |
|
目的端 SecretKey |
|
目的端 Bucket 名称 |
|
保存路径 |
|
存储类型 |
|
同名保留策略 |
|
ACL权限设置 |
|
复制模式设置
您需要根据复制需求选择合适的复制模式,CloudFLow 支持半托管迁移和全托管迁移。关于迁移模式的介绍,请查看全托管迁移和半托管迁移介绍。
配置项 | 配置描述 |
---|---|
迁移模式 |
|
性能设置
您需要根据迁移需求选择合适的性能设置,CloudFLow 配置每秒文件数和迁移速度限制。如果整个迁移过程时间较长,可以利用限制迁移文件数和调整迁移速度,在低谷时加速迁移以确保业务稳定,而在高峰时减缓或暂停以控制成本。
配置项 | 配置描述 |
---|---|
性能配置 |
|
查看复制状态和进度
在数据流转平台 CloudFlow 控制台,您可以查看所有复制任务的状态和进度。
复制状态
- 待迁移:若用户指定时间发起数据复制,任务状态为待迁移;
- 任务完成有失败文件:任务完成,但部分文件复制成功,部分失败。您可以在列表中查看复制成功和失败的数量,并导出失败文件列表;
- 任务成功:任务完成,且文件全部复制成功;
- 任务暂停:中途主动暂停复制任务;
- 任务失败:计划复制的文件全部复制失败,0个文件复制成功,您需要排查复制失败的原因。
说明: 由于复制任务时间可能较长,列表中复制成功和失败的文件数量将会每 30 秒更新一次。若数字暂停,请耐心等待。
相关操作
- 查看详情:点击后查看任务配置详情和任务传输详情;
- 导出失败文件列表:点击后可以下载当前的复制失败文件;
- 删除任务:任务完成后讲不需要的任务删除。任务删除后不影响已经复制的文件;
- 暂停任务:当任务处于"迁移中"或者"待迁移"状态时将复制任务暂停,适合复制配置错误或不希望继续复制的场景,以便及时阻止任务。点击暂停任务后,该按钮变为"恢复任务",点击后可断点重传。