进程模式下发python SDK模型

更新时间：2022-12-14

本文档介绍如何通过进程模式下发easyedge的linux-python-sdk。

本文档使用了easyedge开源的sdk做验证，sdk获取地址：EasyEdge开源模型体验。本文使用的是物体检测YoloV3_MobileNetV3模型。

依赖环境安装

（1）安装paddle环境 x86用paddlepaddle，arm可以安装paddlelite。

（2）安装easyedge python wheel包在下载的sdk中包含了对应的wheel包。安装版本需要与python版本对应。

（3）环境依赖检查。安装完成后，检查是否安装成功

pip3 list --format=columns | grep paddlelite
paddlelite                    2.11
pip3 list --format=columns | grep BaiduAI-EasyEdge-SDK
BaiduAI-EasyEdge-SDK          1.3.1

注意：进程模式以root运行，所以paddle和easyedge的wheel需要装在root用户下

部署准备

（1）模型SDK处理修改demo_serving.py文件 arm环境使用的paddle-lite，engine使用edge.Engine.PADDLE_LITE。 x86换使用的是edge.Engine.PADDLE_FLUID server.run(host=host, port=port,device=edge.Device.CPU, engine=edge.Engine.PADDLE_LITE)

（2）运行脚本不通过BIE直接本地编译运行截图如下：

因为BIE进程模式只支持运行sh脚本，不支持python。所以当以进程模式下发时，我们需要通过sh脚本来运行python脚本示例bootstrap脚本：

#! /bin/bash

export OPENBLAS_CORETYPE=ARMV8
# 在armv8 CPU上运行，需要添加环境变量

IFS=$'\n'
folders=($(find mnt/easyedge/ -type d -name "EasyEdge-Linux-*" -maxdepth 1))
unset IFS
model_folder=${folders[0]
# 选择{工作路径}/mnt/easyedge下以EasyEdge-Linux开头的folder
python3 "${model_folder}/python/infer_demo/demo_serving.py" "${model_folder}/RES/"

（3）创建程序包整理程序入口配置文件：