概述

本文档介绍如何将开发机中调试完成的模型环境直接封装为镜像，并快速部署为在线推理服务（Inference Service）。通过此流程，无需复杂的 Docker 构建过程，即可将实验环境转化为可对外提供 API 调用的生产服务。

前提条件

• 已创建开发机实例，并在其中完成模型代码调试。
• 模型文件和推理代码（如 app.py）已保存在开发机环境中。
• 推理代码已配置监听端口（如 8080 或 8000）。

操作步骤

1. 在控制台进入 百度百舸 · AI 计算平台->大规模训练与推理->开发机。2. 选择已完成调试的开发机实例，在开发机中制作镜像。详情参见 开发机中制作镜像。
2. 镜像制作完成后，点击开发机实例名称，进入实例详情页面。
3. 选择 【镜像制作记录】 标签页，在列表中找到需要部署的镜像版本。

3. 创建推理服务：在“镜像制作记录”列表中找到需要部署的镜像版本，在右侧“操作”列中，点击 “更多” 下拉菜单，选择 “创建推理服务” 选项。
4. 填写服务配置信息。配置项可参考 在线服务部署。从镜像制作记录发起创建时，无需填写 镜像地址；如需更换镜像，可点击 【百舸预置镜像】，或点击 【百舸预置镜像】 后切回 镜像地址 以刷新镜像信息。

5. 配置完成后，点击确定提交，即可成功在开发机中将模型部署为在线服务。