添加任务 1、添加任务 模型和摄像头添加完成后,需要通过添加任务将模型和摄像头关联起来。点击添加任务,任务类型选择【EasyDL SDK】 2、任务设置 带“*”为必填项,确定需要部署的模型和对应的摄像头,以及模型推理的帧率,其余按需填写即可。 任务中若需要增加结果回调和本地保存,详见《EdgeBoard开发管理平台使用文档》的【HTTP回调章节】。
创建部署集 table td { white-space:nowrap; } 接口描述 本接口用于创建BEC部署集。 请求结构 POST /v2/vm/instance/deployset/create?
单机一键部署】和【多机分离部署】选择一种方式部署。
3.2 创建模型文件配置项 导入 配置项-dpkg-rqkuqxrbcnixn6y3.zip.json 3.3 创建进程应用 导入 应用-linux-atlas-rqkuqxrbcnixn6y3.json 3.4 配置说明 程序包、模型配置文件、进程应用按顺序导入 导入以后部署至边缘节点可直接运行,不需要任何序列号 端口号此处指定为8702,通过进程应用的 环境变量 设置。
创建部署集 接口描述 本接口用于创建BEC部署集。
查询部署详情 接口描述 本接口用于获取当前用户的部署详情。
删除部署集 接口描述 本接口用于删除BEC部署集。当部署集中有虚机实例时不允许删除。 请求结构 DELETE /v1/deployset/{deploysetId} HTTP/1.1 Host: bec.baidubce.com Authorization: authorization string 请求头域 除公共头域外,无其它特殊头域。
删除部署集 table td { white-space:nowrap; } 接口描述 本接口用于删除BEC部署集。当部署集中有虚机实例时不允许删除。 请求结构 DELETE /v2/vm/instance/deployset/{deploySetId}?
队列 选择模型需要部署的资源池中的队列 模型加速 支持的模型 :LLAMA2、CodeLlama、ChatGLM2、Baichuan1、Baichuan2和Qwen系列模型部署 推理加速 :AIAK加速引擎是百舸异构计算平台针对于大模型推理场景,推出的推理加速能力,使用百舸平台部署模型服务默认提供推理加速能力。
需要注意的,w,h设得越大,模型在预测过程中所需要的耗时和内存/显存占用越高;设得太小,会影响模型精度 更多模型转换详情参考PaddleX官方文档: https://paddlex.readthedocs.io/zh_CN/develop/deploy/export_model.html 模型部署 基于Edgeboard 1.8.0示例模型部署 上传模型 模型训练完成后,将模型文件上传到Edgeboard