C++示例
示例目录结构
1edgeboard-191:~/root/workspace/PaddleLiteDemo# ls
2C++ README.md configs python res C++ : C++语言编写的demo 源码
python : python语言编写的demo 源码
configs : 存放了示例运行需要的配置文件
res: 存放了模型相关文件和图片文件
系统配置文件描述
configs目录中已经默认添加每个 模型对应4种不同 输入源的配置
1 configs ✗ tree
2.
3├── classification
4│ ├── Inceptionv2
5│ ├── Inceptionv3
6│ ├── mobilenetv1
7│ └── resnet50
8│ ├── image.json
9│ ├── multi_channel_camera.json
10│ ├── rtspcamera.json
11│ └── usbcamera.json
12├── detection
13│ ├── mobilenet-ssd
14│ ├── mobilenet-ssd-640
15│ ├── mobilenet-yolov3
16│ ├── vgg-ssd
17│ └── yolov3
18│ ├── image.json
19│ ├── multi_channel_camera.json
20│ ├── rtspcamera.json
21│ └── usb_camera.json
22└── segmentation
23 └── deeplabv3
24 ├── image.json
25 ├── multi_channel_camera.json
26 ├── rtspcamera.json
27 └── usbcamera.json
28
2913 directories, 12 filesjson配置文件格式如下：
1{
2 "model_config": "../../res/modles/detection/yolov3",
3 "input": {
4 "type": "usb_camera",
5 "path": "/dev/video2"
6 },
7 "debug": {
8 "display_enable": true,
9 "predict_log_enable": true,
10 "predict_time_log_enable": true
11 }
12}配置文件参数说明：
model_config : 模型的目录,相对于 PaddleLiteDemo/C++/build 目录,各个示例支持的模型见目录
type： 输入源的类型，可选项目，支持的value有：image、usb_camera、rtsp_camera、multichannel_camera
path: 输入源对应的 设备节点或url 或 图片的名字
| type | path | 备注 | 支持的设备 |
|---|---|---|---|
| image | ../../res/models/XXX | 使用图片作为输入源 | ALL |
| usb_camera | /dev/video0 | USB摄像头 | FZ3X/5X |
| usb_camera | /dev/video2 | USB摄像头 | FZ9D |
| rtsp_camera | rtsp://admin:eb123456@192.168.1.167/ | RTSP摄像头 | FZ5X |
| multichannel_camera | /dev/video1 | 多路分时复用摄像头 | FZ9D |
注意： 只有FZ9D 支持 multichannel_camera
display_enable: 显示器显示开关，当没有显示器时可以设置为 false
predict_log_enable : 预测的结果通过命令行打印的开关
predict_time_log_enable: 模型预测单帧耗时的打印开关（不包括图像处理时间）
模型配置文件描述
模型配置文件位于res/model每个模型文件夹下
1{
2 "network_type":"YOLOV3",
3
4 "model_file_name":"model",
5 "params_file_name":"params",
6
7 "labels_file_name":"label_list.txt",
8
9 "format":"RGB",
10 "input_width":608,
11 "input_height":608,
12
13 "mean":[123.675, 116.28, 103.53],
14 "scale":[0.0171248, 0.017507, 0.0174292],
15 "threshold":0.3
16}参数说明：
模型类型：
- 非融合模型：
model_file_name : 指定模型文件的名字
params_file_name : 指定模型参数文件的名字
- 融合模型：
model_dir : 指定 模型与参数的目录
C++示例运行
编译
1cd PaddleLiteDemo/C++
2mkdir build
3cd build
4cmake ..
5make结果产生3个可执行文件：
classification : 分类示例
detection: 检测示例
segmentation: 分割示例
执行
默认使用 configs 目录下的image.json, 通过配置文件可以切换 模型 和 输入源等，
执行默认配置
1# 执行分类模型默认配置
2./classification1# 执行检测模型默认配置
2./detection1# 执行分割模型默认配置
2./segmentation执行指定配置
如： 检测示例yolov3 ，用usbcamera 的方法：
1./detection ../../configs/detection/yolov3/usb_camera.json注意：camera 类型的输入需要接入显示器，需要将显示器设置为 720P，设置方式
1 startx #开启显示器桌面
2 xrandr -s 1280x720 #设置显示器分辨率为720pC++接口调用
具体详情请查看PaddleLite API文档 C++接口文档
C++ API
1CreatePaddlePredictor
2template <typename ConfigT>
3std::shared_ptr<PaddlePredictor> CreatePaddlePredictor(const ConfigT&);CreatePaddlePredictor用来根据CxxConfig构建预测器。
示例：
CxxConfig
1class CxxConfig;CxxConfig用来配置构建CxxPredictor的配置信息，如protobuf格式的模型地址、能耗模式、工作线程数、place信息等等。
示例：
1//构造places, FPGA使用以下几个places。
2std::vector<Place> valid_places({
3 Place{TARGET(kFPGA), PRECISION(kFP16), DATALAYOUT(kNHWC)},
4 Place{TARGET(kHost), PRECISION(kFloat)},
5 Place{TARGET(kARM), PRECISION(kFloat)},
6});
7//构造模型加载参数
8paddle::lite_api::CxxConfig config;
9std::string model = value["model"];
10
11bool combined = true;
12std::string model_dir = model;
13
14if (combined) {
15 //设置组合模型路径（两个文件）
16 config.set_model_file(model_dir + "/model");
17 config.set_param_file(model_dir + "/params");
18} else {
19 //设置模型目录路径，适用于一堆文件的模型
20 config.set_model_dir(model_dir);
21}
22
23config.set_valid_places(valid_places);
24// 创建PaddleLite实例
25auto predictor = paddle::lite_api::CreatePaddlePredictor(config);PaddlePredictor
PaddlePredictor是Paddle-Lite的预测器，由CreatePaddlePredictor根据CxxConfig进行创建。用户可以根据PaddlePredictor提供的接口设置输入数据、执行模型预测、获取输出以及获得当前使用lib的版本信息等。
1//获取第0个输入tensor，有多个输入时，可根据相应下标获取
2auto input = predictor->GetInput(0);
3//调整输入大小
4input->Resize({1, 3, height, width});
5//获取tensor数据指针
6auto* in_data = input->mutable_data<float>();
7//图片读入相应数组当中
8read_image(value, in_data);
9//推理
10predictor->Run();
11//获取结果tensor，有多个结果时，可根据相应下标获取
12auto output = predictor->GetOutput(0);
13//获取结果数据
14float *data = output->mutable_data<float>();Tensor
Tensor是Paddle-Lite的数据组织形式，用于对底层数据进行封装并提供接口对数据进行操作，包括设置Shape、数据、LoD信息等。
注意：用户应使用PaddlePredictor的GetInput和GetOuput接口获取输入/输出的Tensor。
1// 通过调用Resize调整Tensor纬度
2input->Resize({1, 3, height, width})
3//通过SetLoD设置lod信息。
4input->SetLod(lod);
5//-----------------------------------------
6// 获取数出tensor
7auto output = predictor->GetOutput(0);
8//获取结果数据
9float *data = output->mutable_data<float>();
10//tensor->shape()返回Tensor维度信息。
11int size = output->shape()[0];