整体介绍
Hi,您好,欢迎使用百度车辆分析私有化部署产品。
基于车辆分析模型封装而成的能够本地化部署的纯软件方案,将软件包成功部署在本地服务器(需GPU显卡)上后,启动服务,即可调用与在线API功能基本完全相同的接口(参数有少量区别,请参考接口调用文档)。
方案概述
私有化部署方案适用于网络环境受限制(例如专网)或者对数据私密性有要求的各类业务场景,如公共安防、园区管理、校园监控等,提供分布式高并发部署方案,纯软件方案可以快速测试、快速交付,且不与硬件进行捆绑,更高效、灵活。
注:百度为开发者提供的是包含车辆分析模型的部署包软件,具体的硬件采购和服务器部署请提前准备,服务器配置推荐请参考下文硬件配置部分。
私有化部署的整体业务流程如下,下文将针对各个环节分别说明。
产品功能
车辆分析的各个接口拆分为不同的私有部署包,目前已上线车型识别、车辆检测、车流统计3个服务的部署包,可选取所需能力灵活应用。
- 车型识别
识别图片中车辆的具体车型,可识别常见的3000+款车型(小汽车为主),输出车辆的品牌型号、颜色、年份、位置信息。
注:当前只支持单主体识别,若图片中有多个车辆,则识别目标最大的车辆。
- 车辆检测
检测图片中出现的所有车辆,返回车辆类型与位置,可识别小汽车、卡车、巴士、摩托车、三轮车5类车辆。 当前主要适用于普通监控场景,如道路、室外停车场等,无人机高空拍摄的图片,因车辆目标较小,识别效果可能欠佳,后续会扩展支持超高空拍摄场景。
- 车流统计
根据传入的连续视频图片序列,进行车辆检测和追踪,返回每个车辆的坐标位置、车辆类型(包括小汽车、卡车、巴士、摩托车、三轮车5类)。在原图中指定区域,根据车辆轨迹判断驶入/驶出区域的行为,统计各类车辆的区域进出车流量,可返回含统计值和跟踪框的渲染图。
当前主要适用于普通城市道路监控场景,无人机高空拍摄的图片,因车辆目标较小,识别效果可能欠佳,后续会扩展支持超高空拍摄场景。
购买指南
车辆分析私有化部署方案为付费产品,可自用或集成为客户使用,需具备基本的IT能力进行部署使用。
- 免费测试:车辆分析的各个部署包,均提供免费测试,最高可获得3个月有效期。
- 正式购买:按照授权数量计费(具体授权方式见下文授权说明),不同功能的部署包分别计费,支持按年授权、永久授权两种购买方式,具体价格请联系客户经理沟通。
硬件配置
车辆分析的模型需在GPU服务器上运行,请准备好GPU再提交部署包申请。
1、GPU显卡选型建议
序号 | 显卡系列 | 推荐型号 | 说明 |
---|---|---|---|
1 | NVIDIA Tesla | P4、P40 | P40显存更大,但运行模型的计算单元并不多,因此运行车辆分析模型的性能与P4基本没差别 |
2 | NVIDIA GTX系列 | 1070、1070Ti、1080、1080Ti | 显存需要≥6G |
3 | NVIDIA RTX系列 | 2070、2080、2080Ti | |
4 | NVIDIA T系列 | T4 |
注:
① GTX 1060及以下版本的显卡,由于版本过老、性能过低,无法运行。
② 由于GTX的计算单元比P4更多,因此单卡支持的QPS数量也会更多,但因为GTX并非服务器专用显卡,请大家基于自身业务需求进行选择。
2、基础硬件要求
环境类别 | 环境需求 |
---|---|
硬件要求 | CPU架构:AMD 64/x86_64;内存: >=32G;主板主频>1833mHZ;硬盘:>=512G(应用服务安装目录磁盘空间>100G,/home 磁盘空间>500G);需支持avx/avx2和bmi2指令集,机器需要在局域网内,且能获取到ip地址 |
操作系统(64位) | CentOS 7及以上、Ubuntu 14/16/18、RedHat 7.2 |
网络环境 | 有线局域网,不支持无线网络 |
服务端口 | 8443 端口不能被占用(鉴权服务默认端口) |
性能指标
车辆分析各个部署包的性能说明如下,硬件配置选型、服务调用时可参考。
序号 | 部署包模型 | 显存占用 | 单显卡QPS数量(以P4为例) | 说明 |
---|---|---|---|---|
1 | 车型识别 | ≈4G | 20 QPS | |
2 | 车辆检测 | ≈5G | 20 QPS | 与图片中的车辆数目有关 |
3 | 车流统计 | ≈5G | 静态车辆检测:20 QPS 动态车流统计:10 QPS |
与是否输出渲染图有关 |
注:以上性能指标仅供参考,具体应用中以项目实测为准
抽祯策略建议:车辆分析的应用场景一般情况下无需频繁抽祯识别,实际应用中,可根据场景特性、业务要求,灵活设置,权衡应用效果和资源利用率。
- 车型识别:需要实时监控的核心区域,帧率可设置高一些,如2fps~5fps,避免漏检;夜晚或很少有车辆出现的非核心区域,帧率可相应低一些,如1秒一帧、甚至几秒一帧,减少传输、并发等资源消耗。
- 车辆检测:同上。
- 车流统计:抽祯频率需>2fps,否则无法有效跟踪,建议5fps~10fps。
如何接入
1、申请私有化部署包
登录百度云控制台,选择图像识别技术类别,进入本地部署包管理页面,发起申请。
提交部署包申请后,有如下关键动作需要您的配合:
2、下载获取部署包
部署包申请审批通过后,您会得到部署包的下载链接,需要经过以下步骤,得到可运行的部署包。
- 通过下载链接下载安装文件到本地
- 在本地执行命令下载AI部署包
通过下载链接下载安装文件到本地
由于私有化环境下最终进行应用部署的服务器不能连接外网,您需要先选择一台可以联网的电脑或服务器进行鉴权服务安装包及镜像文件安装包的下载。您可选择Windows、Linux、MacOS操作系统来进行鉴权服务部署包的下载。
下载完成后您可自行将安装包上传到需要进行私有化部署的服务器上。
在本地执行命令下载部署包
下载完成安装文件后,解压后进入original目录执行以下命令获取到部署包。
- linux环境:
执行bash download.sh
- windows环境:
首先需要下载win-bash,使windows环境可以执行linux脚本。
win-bash的下载地址为: https://sourceforge.net/projects/win-bash/files/shell-complete/latest/
解压后放在original目录下,目录结构如下图所示
最后点击download.bat
执行下载脚本,下载安装包。
最终得到的部署包,包含以下内容:鉴权服务安装包、应用镜像文件安装包以及docker安装包等基础依赖环境。
备注:进入original目录后可打开refs.txt文件查看详细的下载内容。
CPU环境部署和GPU环境部署下载后包含的的安装文件有所区别。具体示例如下:
授权说明
私有化方案需要对服务器硬件进行授权,您可以在GPU服务器或者普通PC物理机上运行百度提供的硬件指纹提取工具提取硬件信息(提取成功后会生成一个指纹文件),然后在控制台车辆分析本地部署包申请界面上传指纹文件,审批通过后即可获得授权。
将运行车辆分析模型的GPU与运行授权服务的硬件间建立通信,就能运行起车辆分析模型了,可运行模型的显卡数量与授权数量相同。
注:授权服务可以运行在CPU设备上(比如一台固定的PC机),针对这台设备生成license,license文件中包含几个授权,车辆分析模型就可以在多少个显卡上运行,只要保证被采集了指纹的硬件不被替换,授权也不受影响(即使替换GPU服务器也不会受影响)。
授权有效期
车辆分析的私有部署包提供2种授权方式:按年授权、永久授权,不同的授权方式价格不同,具体费用信息请联系客户经理沟通。
- 按年授权:自购买日期生效,到约定的日期后license失效,部署包不可继续使用,如要继续使用,需重新购买新的部署包。
- 永久授权:自购买日期生效,license永久有效,授权的硬件不替换、损坏,即可一直使用。
注:百度一直保持授权服务的兼容,只要您之前已经购买过某个模型的授权,那么百度在这个模型上的性能提升后的新版部署包,都可以自助升级。但如果新增功能,形成了一个新的接口,则需要重新购买。
服务部署
部署环境准备、部署方式、部署流程(含鉴权服务和应用服务)详见部署说明文档。
接口调用
应用服务部署成功后,即可获得与在线API基本完全相同的接口,可参考接口调用文档开始测试。