对象存储BOS

    本地数据上云

    存量数据

    存量数据的特点是数据量一般比较大,迁移需要较长的时间,但数据基本固定,很少再进行修改。本地数据上云时,您可以根据自身网络条件选择在线方式或离线方式进行迁移。

    在线方式:BOS CMD 工具

    本地数据上云的在线方式适用于客户本地网络条件较好(带宽充裕)的情况。在这种情况下,我们推荐通过 BOS CMD 工具的Object上传功能实现数据上云。

    BOS CMD 是BOS提供的命令行工具,它提供了丰富的功能,方便用户对BOS资源进行各种操作和管理。 BOS CMD 支持批量上传、同步上传(sync)、单文件上传三种Object上传方式,使用批量上传和同步上传(sync)可以高效的解决本地存量数据在线上云的问题。在这里先介绍批量上传方式:

    您可以在已安装了 BOS CMD 的机器上执行以下命令来使用批量上传:

    $ bcecmd bos cp <local-path> <bos-path> --recursive [--storage-class [STORAGE_CLASS]] [--restart] [--quiet] [--yes] [--disable-bar]

    其中 local-path 为本地上传文件的目录。具体操作及注意事项请参见:BOS CMD Object 上传功能

    离线方式 1:月光宝盒

    如果客户侧的网络环境不好(带宽小、网络不稳定),且带宽成本非常昂贵时,在有限的带宽下进行传输,速度也不是特别理想,则推荐使用月光宝盒进行离线传输。

    月光宝盒是百度智能云BOS提供的一种TB级数据传输解决方案,它使用存储设备在百度智能云和客户之间传输大量数据。它解决了大规模数据传输中出现的高昂网络成本、较长传输时间和安全等问题,且具有简单、快速、安全、成本低的优点。

    和BOS提供的另一种离线方式“本地数据离线传输”相比,月光宝盒由BOS为您提供硬盘,因此,月光宝盒适用于迁移量大于等于20TB的情况。

    月光宝盒正处于公测期间,使用前需要填写公测申请:月光宝盒公测申请

    具体操作流程及注意事项请参见:月光宝盒操作流程

    离线方式 2:本地数据离线传输

    BOS还提供了一种离线方式“本地数据离线传输”。它和“月光宝盒”的不同之处在于,离线传输仅支持客户自己提供硬盘。因此,离线传输适用于迁移量小于20TB的情况。

    使用离线传输前,请先通过工单或者客户经理联系我们。您把数据拷贝到硬盘上后,请把硬盘寄送到下面地址:

    地址 北京市通州区光电一体化基地兴光二街甲2号
    电话 010-80823088/18611817954
    联系人 CQ02机房

    硬盘寄回的地址,可以联系客户经理告知我们的接口人。硬盘寄送请选择保价,邮费请自负,寄回去时也会选择到付。北京同城1天,异地一般2天内可达。硬盘寄回之前,按照百度安全要求会统一清空硬盘,请关注。

    增量数据

    BOS CMD sync 功能

    BOS CMD 的同步上传(sync)功能可以方便快捷的解决本地数据上云过程中,增量数据的问题。同步上传默认支持批量操作,可以将本地目录同步到BOS。如果BOS端已经有名称相同且修改时间比本地文件新,同步上传会忽略此文件,只同步新文件或有改动的文件。 sync命令会同时列举本地和BOS侧文件, 对于不同情况分别执行不同的动作,以保证增量数据的准确安全上传。

    您可以在已安装了 BOS CMD 的机器上执行以下命令来使用同步上传(sync):

    $ bcecmd bos sync <local_dir> bos:/<bucket_name>/[prefix] [--exclude EXCLUDE] [--include INCLUDE] [--delete] [--exclude-delete EXCLUDE-DELETE] [--dryrun] [--yes] [--quiet] [--storage-class STORAGE-CLASS] [--sync-type SYNC-TYPE] [--concurrency CONCURRENCY] [--restart]

    其中 local_DIR 为本地同步目录。具体操作及注意事项请参见:BOS CMD 同步上传(sync)功能

    一篇
    场景概述
    一篇
    从其他云迁移