四、边缘应用描述 除了边缘节点连接云端是自动部署的系统应用,还需要在边缘节点上部署以下三个应用 序号 应用名 用途 1 vi-function 模型推断结果后处理函数,将模型推断结果解析成可识别数据 2 video-infer 模型推断应用,负责加载AI模型并执行AI推断 3 remote-object 将边缘推断图片上传到云端对象存储 最终边缘节点上将会有6个边缘应用,如下图所示 五、边缘应用关系
更新边缘裸金属物理机 接口描述 本接口用户更新边缘裸金属物理机配置。 请求结构 PUT /v1/bm/{bmId} Host: bec.baidubce.com Authorization: authorization string { "name":"name" } 请求头域 除公共头域外,无其它特殊头域。
获取AI中台模型部署包进行应用部署 前提 用户在模型中心的部署包管理创建边缘部署包。如果是sdk类型的,需要创建完毕后执行导出操作。如果是镜像类型的,会自动打包模型文件生成新版本镜像。 操作 创建新的应用。选择“基于模型部署包创建”,选择对应项目,选择适合的部署包。如果是进程模式还需要选择部署包道出的版本 进入服务配置界面。
使用EasyEdge模型转换获取边缘模型 1、概述 本文介绍如何使用EasyEdge将 原始模型 转换成 适配目标边缘设备架构的 边缘模型 。模型转换操作在 EasyEdge控制台 完成。
批量删除边缘裸金属物理机 接口描述 本接口用于删除边缘裸金属物理机实例。 请求结构 DELETE /v1/bm HTTP/1.1 Host: bec.baidubce.com Authorization: authorization string 请求头域 除公共头域外,无其它特殊头域。
获取可用边缘节点列表 接口描述 本接口用于获取可用边缘节点列表。 请求结构 GET /v1/node/type/{type}?
通过AI中台转换模型并下发至边缘 本文介绍如何在AI中台的模型中心导入原始模型,转换成适配NVIDIA Jetson的模型文件,并下发至设备边缘。 前提条件 有一个可测试的边缘节点设备 边缘节点连接至云端 有一个模型,本实验用的是一个 图像分类模型fuild-mobilenceV2.zip 。
优势 高性能与低延迟:百度边缘MongoDB采用分布式架构,数据在边缘节点就近存储和处理,大幅降低了数据访问的延迟。 高可用性与容错性:通过副本集和自动故障转移机制,确保数据的高可用性和系统的稳定运行。 易于扩展:支持水平扩展,通过增加节点可以无缝提升存储容量和查询性能。 实时数据分析:提供强大的聚合框架和Map-Reduce模型,支持复杂的数据分析和实时计算。
通过AI中台直接将模型下发至边缘 本文介绍如何在AI中台导入模型,然后在AI中台模型仓库直接下发模型至边缘节点。 前提条件 有一个可用的测试边缘节点设备,本案例使用一个2核8G的 BCC云服务器 作为测试边缘节点。 按照 快速入门 教程,将测试边缘节点连接云端。 该模型是CPU模型,边缘节点Docker Runtime不能使用 nvidia ,必须使用 runc 。