部署模型SDK至Windows设备
更新时间:2022-12-01
1、概述
本文将描述如何将EasyEdge SDK制作成一个BIE边缘程序包,然后通过BIE云边协同将二进程序包下发至windows边缘节点并运行。BIE纳管windows边缘节点参考:在windows上安装进程模式边缘节点
2、获取Windows类型SDK
参考使用EasyEdge模型转换获取边缘模型获取Window版本的模型SDK。
3、本地验证
获取windows版本EasyEdge SDK以后,在本地运行 EasyEdge.exe 程序,输入相关参数,然后启动服务。
服务启动成功后,打开浏览器,输入:http://[ip]:24401 , 然后在web界面当中上传一张图片进行测试。
注:目前最新版的SDK已经SDK封装成windows服务,后台运行的仍为easyedge_serving.exe的二进制程序。
4、利用BIE进程模式部署
本章节介绍如何使用进程模式下发模型二进制执行程序和模型文件。
如果要使用BIE实现模型下发并运行,需要执行一下操作:
-
下发文件
- 程序包:包含easyedge_serving和program.yml配置文件的压缩包,上传对象存储。在program.yml配置文件当中定义了entry。
- 配置项:模型资源文件,上传对象存储
-
启动参数
- 模型资源文件下发以后的工作目录。
- 模型序列号
- 服务暴露IP
- 服务暴露端口
基于上述需要的内容,我们开始后面的的操作。
4.1 制作程序包
用户下载解压后的SDK目录如下所示:
用户需要将标红文件夹中的文件剪切到外层根目录下,并新建program.yml文件,文件内容如下:
4.2 添加程序包配置项
将上述修改后的SDK文件夹压缩成zip文件并上传到对象存储中,然后在BIE程序包中引入这个压缩文件。
示例程序包可点此下载。
4.3 创建进程应用
添加进程服务,将模型以卷的形式添加到服务中。
添加启动参数及环境变量如下:
环境变量:
EDGE_CONTROLLER_KEY_ENABLE_DEBUG_LOG
: 开启easyedge日志模式,用于debug,可关闭HomeDrive
:根目录HomePath
:easyedge授权文件需要保存路径,类似于linux下的HOME,必须配置。跟HomeDrive
搭配组成完整路径。
启动参数
.\var\lib\baetyl\bin\data\model\
: 模型文件相对路径F937-F6AE-D9A1-8C0D
: SDK序列号0.0.0.0
: easyedge 服务IP24401
: easyedge 服务端口
4.4 创建对应节点并将应用部署到节点上
4.5 进程模式安装节点
4.6 验证边缘节点AI推断服务
通过浏览器打开在线推断服务:http://「ip」 :24401/,上传测试图片,推断结果如下,证明AI服务正常启动。