使用edgekit镜像运行模型-容器模式
更新时间:2022-12-01
前提说明
本demo介绍如何使用edgekit镜像搭配easyedge sdk 实现模型下发并在边缘侧运行。本实验使用的设备是Jetson Nano,请参考 Jetson依赖说明 设置Jetson Nano。
Step1 获取SDK
在easyedge上传原始模型,并利用模型转换获得针对jetson端设备的SDK。
Step2 创建配置项
将SDK上传至对象存储,然后创建对应的配置项
Step3 创建应用
创建应用,此处镜像用的是easyedge私有化特殊镜像,该镜像内包含bootstrap.sh脚本,会自动完成SDK的编译,环境变量配置等相关操作。 创建该服务需要配置的部分如下:
- 镜像地址:iregistry.baidu-int.com/easyedge_public/edgekit_jetson:r32.4.3.7
- 卷挂载目录:/mnt/easyedge
- 端口号:容器内部端口为8701,外部端口可以自定义
- 启动参数:/bin/bash;/home/work/easyedge/serving/bootstrap.sh
Step 4 部署并验证
将应用部署至云端指定节点,在jetson终端上安装节点。边缘侧应用部署成功后,调用部署到边缘侧的AI服务来验证这个demo。在浏览器输入:<边缘ip>:8701。 上传检测的图像,可以看到成功识别出猕猴。