使用EasyEdge模型转换获取边缘模型
更新时间:2022-12-01
1、概述
本文介绍如何使用EasyEdge将 原始模型 转换成 适配目标边缘设备架构的 边缘模型。模型转换操作在EasyEdge控制台 完成。
2、原始模型准备
在本教程当中将使用一个 PaddlePaddle 1.5 框架的 物体检测 模型 mobilnetv1-ssd-voc-fluid作为原始模型,原始模型主要包含以下内容:
- 模型标签:
label_list.txt
- 模型网络:
model
- 模型参数:
params
- 模型转换配置文件:
preprocess_args.json
3、模型转换操作指南
3.1 上传原模型
- 打开EasyEdge官网,点击 立即使用 ,登录EasyEdge控制台。
-
进入 EasyEdge,在左侧点击 上传本地模型 ,在改界面输入原始模型信息,具体参数如下:
- 模型名称:用户自定义,此处输入 mobilnetv1-ssd-voc-fluid-v2
- 模型类型:物体检测
- 模型框架:PaddlePaddle
- 模型网络:MobileNetV1-SSD
- 网络结构:选择模型目录当中以的
model
文件 - 网络参数:选择模型目录当中以的
params
文件 - 模型标签:选择模型目录当中以的
label_list.txt
- 其他配置:选择模型目录当中以的
preprocess_args.json
- 自定义分组:任意
- 功能描述:任意
3.2 生成边缘模型
- 点击 校验并提交模型 ,校验通过以后,进入到 生成端模型 菜单,在此处选择需要生成的边缘模型类型,我们选择生成以下6种边缘模型
序号 | 芯片/硬件 | 操作系统 | 测试结果 |
---|---|---|---|
1 | 通用ARM芯片 | Linux | 测试通过 |
2 | 通用x86芯片 | Windows | 测试通过 |
3 | 通用x86芯片 | Linux | 测试通过 |
4 | 华为Atlas 200 | Linux | 在Atlas200dk硬件上可以启动服务,但是一调用服务就挂掉,建议使用yolov3架构的原始模型尝试转换 |
5 | 英特尔Movidius VPU | Linux | |
6 | Jetson(TX2/Nano/Xavier) | Linux | 测试通过 |
- 点击 生成模型 ,进入到模型生成阶段,这个过程大约需要几分钟,实际实际取决于模型的大小。
3.3 在SDK列表下载边缘模型
在模型生成完毕以后,进入到 离线计算SDK 列表 ,可以看到生成的边缘模型,如下图所示:
点击下载可获取不同芯片架构版本的边缘模型。
3.4 获取序列号
基于公有云EasyEdge转换获取的模型SDK,都需要通过序列号进行激活,否则无法使用。
在离线计算SDK 列表页面,点击 获取序列号激活 可获取序列号,每个序列号的有效期为15天。序列号过期以后可申请延期,或者使用新的序列号替换。
4、部署模型SDK
部署个人通过EasyEdge转换的模型SDK方案,可以参考 部署开源模型SDK的方案。两者唯一的区别是前者需要有给模型应用配置一个名为 PARAMS_SERIAL_NUM
的序列号环境变量。