公有云部署
所有文档

          BML 全功能AI开发平台

          公有云部署

          公有云部署简介

          模型仓库中的模型,发布为公有云部署时储在云端,可通过独立Rest API调用模型,实现AI能力与业务系统或硬件设备整合。
          BML具有完善的鉴权、流控等安全机制,并配置丰富的资源集群稳定承载高并发请求。 并且支持查找云端模型识别错误的数据,纠正结果并将其加入模型迭代的训练集,不断优化模型效果

          模型部署流程

          1. 将训练完成的模型发布到模型仓库,在模型仓库中的『版本列表』中点击『公有云部署』或者点击左侧导航栏的公有云部署,进入公有云部署界面后点击『部署模型』。
          2. 在部署界面,首先进行服务配置:自定义服务名称、接口地址后缀,选择需要部署的模型,
          3. 对每个部署模型还需要进行资源配置,配置模型预测服务所需机器资源。目前资源开放CPU类型,支持按配额与实例进行灵活配置,计费说明请点击查看

          image.png

          1. 配置完成后,点击开始部署即可一键部署模型,并获得专用的API地址。

            说明:

            1、系统将运行公有云部署的机器资源1核cpu和4G内存折算为1配额,提高配额数量能提升QPS和降低推理时延

            2、实例为cpu资源运行的实例数,为保证服务的稳定性,实例数至少需要配置为2。实例数与QPS成正比关系,提高实例数时,QPS能正比增加

          接口赋权

          1. 正式使用还需要对接口进行赋权,在已发布的服务的详情界面,点击『控制台』进入BML控制台。image.png
          2. 在控制台中创建一个应用,获得由一串数字组成的appid,然后就可以参考接口文档正式使用了image.png
          3. 如需为第三方用户配置调用接口的权限,可以前往BML控制台-公有云服务管理-权限管理配置image.png image.png

          公有云部署列表
          公有云部署列表信息由历史提交公有云服务组成,显示服务的基本信息。

          image.png

          如图,在预测服务列表页支持以下操作:

          查看详情:点击进入该公有云服务的详情界面

          重启:对已停止或部署失败的服务进行重新创建,恢复对应的服务为可用状态

          停止:停止该公有云服务,用户不再使用相关服务后可进行这一操作,停止后将不进行计费

          编辑模型:对于已经部署为公有云服务,但尚未配置机器资源的模型,点击可以配置机器资源

          上一篇
          表格预测模型部署
          下一篇
          Paddle框架API调用文档