一、部署概述

本文要解决的核心问题是：把一个约 9B 参数、支持图像输入的开源手机操作智能体模型，部署到云端 GPU 容器中，并以对话式 API 服务的形式对外提供调用能力。部署完成后，你将得到一个 HTTP 服务端点：客户端提交手机屏幕截图与自然语言指令，服务端返回模型生成的操作步骤（如点击坐标、滑动方向、输入内容等）。这构成了“用大模型驱动手机自动化操作”这一类方案（常被称作手机智能助手平替）的技术底座。

本文适合三类读者：本地显卡配置不足、希望借助云端算力快速验证能力的开发者；需要在固定环境中复现实验结果的算法与评测工程师；以及负责将模型服务稳定上线、持续运维的技术团队。

部署前建议先建立三点基本认知：

1. 多模态意味着更高的资源峰值。这类模型属于“视觉—语言—动作”一体化模型，推理时既要编码文本指令，又要编码手机截图，显存占用明显高于同参数规模的纯文本模型，不能简单按“9B 模型大约需要多少显存”的经验值估算。
2. 单卡默认配置容易溢出。按官方默认启动参数，单张 24GB 显存的 GPU 大概率出现显存溢出（OOM）。本文采用双卡张量并行的稳妥方案先跑通，再在运维优化章节讨论单卡路径。
3. 本地设备只是客户端。全部计算发生在云端容器内，本地笔记本或台式机配置高低不影响部署成败，只需要能访问服务端点即可。

二、部署场景

这套部署方式典型适用于以下场景：

• 个人助手原型验证：在正式投入自建推理集群之前，用低成本云算力验证模型效果与交互形态，判断是否值得深入投入。
• 移动应用自动化测试：以截图驱动模型输出操作序列，为界面回归测试、兼容性测试提供新的自动化思路。
• 学术评测与实验复现：云端环境规格固定、可随时重建，比本地环境更适合保证实验一致性。
• 数据生产与蒸馏：批量生成“截图—指令—操作”样本，为后续训练自有模型准备数据。

三、架构与组件拆解

整体部署形态可以拆成五层，理解每层的职责有助于后续排查问题：

层级	组件	职责与说明
计算层	云端 GPU 容器（2×24GB 显存级别）	承载模型加载与推理；两张卡通过张量并行协同工作
推理层	开源高性能推理框架	提供模型加载、调度、批处理能力，并对外暴露兼容主流对话协议的 API
存储层	容器本地磁盘	存放代码仓库与模型权重；9B 半精度权重约为 20GB 量级，需预留足够空间
交互层	在线开发环境（Notebook / Web 终端）	提供浏览器内的命令行操作入口，免去本地配置 SSH 的繁琐
访问层	服务端口 + 客户端	通过端口对外提供推理接口，本地脚本或应用作为调用方

四、前置准备清单

开始部署前，逐项核对以下内容：

1. 云算力账号与预算：注册一个提供 GPU 容器租用服务的云算力平台账号，确认计费方式（按量或包周期）。多数平台对新用户有代金券或试用额度，可先领取以降低试错成本。
2. GPU 规格与数量：选择单卡显存 24GB 级别的常见推理型 GPU；数量选 2。单卡在默认参数下会 OOM，双卡是当前最稳妥的起步配置。国产加速卡的兼容性暂未充分验证，建议先选择主流通用 GPU。
3. 镜像选择：租用容器时平台通常提供预装深度学习运行环境的官方镜像，直接选用即可，避免自行安装驱动与加速运行时带来的额外风险。
4. 磁盘空间：模型权重约 20GB，加上代码、依赖与运行日志，建议容器磁盘不少于 50GB。
5. 网络策略：确认容器可访问外部网络（下载代码与模型需要），并记录服务端口，便于后续放通访问。
6. 客户端环境：准备一台能发起 HTTP 请求的本地设备，安装好常用的脚本运行时即可。

五、部署流程详解

步骤 1：租用算力容器

进入平台的算力容器页面，按前述清单选择 GPU 型号与数量，选择官方深度学习镜像，确认租用。租用成功后实例进入运行状态。选择双卡的原因在架构层已经说明：张量并行会把模型权重切分到两张卡上，单卡 24GB 放不下默认配置下的推理峰值。

步骤 2：初始化实例环境

实例就绪后，先在控制台设置访问密码，然后打开在线开发环境入口（通常是 Notebook 或 Web 终端）。进入后新开一个终端窗口，后续所有操作都在这个终端里完成。建议此时先执行一次资源自检：确认可见的 GPU 数量为 2、显存总量符合预期，避免后续排错时把资源问题误判为配置问题。

步骤 3：获取项目代码

从项目公开的代码托管地址克隆仓库到容器本地目录。如果环境预装了通用版本控制客户端，一条克隆命令即可完成；也可以下载源码压缩包后解压。代码仓库中包含启动参考命令与依赖清单，是后续步骤的依据。

步骤 4：安装依赖（按需裁剪）

在项目根目录执行依赖清单安装。这里有一个实用技巧：完整依赖清单往往同时包含训练、评测、演示等多组依赖，版本冲突面大、安装耗时长。如果你只用推理服务，可以将清单中与推理框架无关的条目全部注释掉，只保留推理框架相关的一行。这能显著缩短安装时间，也减少因版本不兼容导致启动失败的概率。

步骤 5：下载模型权重

使用模型仓库的通用下载工具，把该 9B 模型的权重文件拉取到本地目录。注意三点：权重约 20GB，确认磁盘余量充足；下载过程尽量放在后台执行并断点续传，避免网络波动导致重来；下载完成后核对文件数量与体积是否完整，缺文件的目录会导致服务启动时解析失败。

步骤 6：编写启动脚本

创建 run.sh 并赋予可执行权限（touch run.sh && chmod +x run.sh），把项目文档中的参考启动命令粘贴进去，随后完成三个关键改造：

• 改造点一（模型路径）：把模型参数从占位名改为本地权重目录的实际路径，例如 ./phone-agent-9b，路径错误是最常见的启动失败原因之一。
• 改造点二（并行度）：因为是双卡实例，加上张量并行参数并设为 2，让框架把权重切分到两张卡上。
• 改造点三（共享内存与进程后端）：部分云容器平台限制了共享内存的配置，原命令中的共享内存缓存参数可能导致启动报错，需将其移除，并显式指定使用多进程模式的分布式执行后端。

改造后的启动脚本示意如下（参数名以你所选推理框架的官方文档为准）：

# 启动脚本示意
python3 -m <推理框架的API服务入口模块> \
    --served-model-name phone-agent-9b \
    --model /workspace/phone-agent-9b \
    --tensor-parallel-size 2 \
    --max-model-len 25480 \
    --limit-mm-per-prompt '{"image": 10}' \
    --distributed-executor-backend mp
# 说明：原命令中的共享内存缓存参数已按容器限制移除

步骤 7：启动服务并开放访问

后台执行启动脚本，让服务监听约定端口。首次启动需要完整加载约 20GB 权重并完成切分，耗时可能较长，请耐心等待日志出现“服务就绪、开始监听端口”类信息，再进行下一步。同时在平台控制台确认端口已按需开放。

六、关键配置说明

配置项（通用含义）	建议取值	作用与注意事项
对外模型名	phone-agent-9b	客户端调用时填写的名称，需与请求一致，否则报模型不存在
模型路径	本地权重目录	必须指向下载完成的目录，注意相对路径的基准位置
张量并行度	2	双卡切分权重；单卡部署时应去掉或改为 1
最大序列长度	25480	上限越高显存占用越大，是 OOM 调优的首要抓手
单请求图片数上限	10	多图任务按需调整，每张图都会增加编码开销
图像最大像素数	约 500 万	截图分辨率过高会推高显存峰值，可适当下调
分布式执行后端	多进程模式	容器无法使用共享内存时的替代方案
多模态缓存类型	移除共享内存选项	云容器对共享内存的常见限制所致

理解这些配置的关键在于：它们共同决定了显存峰值曲线。序列长度、单请求图片数、图像像素上限三者是相乘关系，任何一项放大都会显著抬高显存占用，这也是单卡方案优化的切入点。

七、上线验证

部署是否成功，建议按四步验证：

1. 日志验证：启动日志无报错，出现服务就绪与端口监听信息，两张卡的加载进度均正常完成。
2. 健康检查：向服务的健康检查端点发起请求，返回正常状态码。
3. 功能验证：发起一次真实对话请求——提交一张手机截图和一条自然语言指令，确认返回内容为合理的操作步骤，而不是报错或空响应。
4. 资源验证：在另一终端观察两张卡的显存水位与利用率。若一张卡空闲一张打满，说明并行配置未生效，需要回到配置环节检查。

八、常见问题与排查

现象	可能原因	处理思路
启动阶段显存溢出	单卡承载默认配置，或序列长度/像素上限过高	恢复双卡；或下调最大序列长度与图像像素上限，压缩并发
启动报共享内存相关错误	容器限制共享内存	移除共享内存缓存参数，指定多进程分布式后端
请求返回“模型不存在”	客户端模型名与服务名不一致	核对对外模型名配置与请求参数
本地无法访问服务端口	端口未放通或安全策略拦截	在平台控制台检查端口与访问白名单配置
权重加载失败	下载不完整或路径错误	核对文件体积与数量，确认路径
响应明显偏慢	首次冷启动或图像过大	观察是否为预热阶段；适当降低截图分辨率

九、运维与优化建议

稳定性：用后台方式运行服务并保留完整日志；为进程配置异常退出后的自动拉起策略；定期检查磁盘水位，日志与缓存积累会悄悄耗尽容器磁盘。

性能：单卡 24GB 跑通的可行方向包括下调最大序列长度、降低图像像素上限、限制单请求图片数与并发请求数；量化方案理论上可行，但多模态模型对精度更敏感，务必先做效果回归评估再上线。

安全：谨慎配置服务允许访问的本地媒体路径，避免授权到根目录，建议收敛到专门的截图目录；为对外接口增加鉴权令牌，端口仅对必要来源开放，防止算力被匿名调用消耗。

成本：实验期坚持按量计费、用完即释放，避免实例闲置过夜；进入长期服务阶段后，可评估公有云的通用 GPU 算力产品（例如百度智能云的 GPU 云服务器、容器实例等通用类目），把临时环境迁移为具备监控、告警与弹性伸缩能力的正式服务，综合成本更可控。

监控：重点盯显存水位、GPU 利用率、请求延迟与错误率四类指标，为峰值场景预留容量余量。

十、总结

回顾整个部署：目标是把 9B 多模态手机操作智能体模型变成云端可调用的推理服务；关键路径是“租用双卡容器—获取代码—裁剪依赖—下载权重—改造启动脚本（模型路径、并行度、进程后端）—启动验证”；上线判定依赖日志、健康检查、真实请求与资源水位四重验证。跑通只是起点，后续围绕单卡优化、安全加固、监控告警与成本治理持续迭代，才能让这套“手机智能助手平替”能力从实验走向稳定可用。