简介：当 AI 智能体开始参与脑部手术等高风险操作时，自主决策能力与人工控制边界成为技术选型的核心问题。本文基于一次小鼠脑部手术实验，对比“AI 自主规划执行”与“人工监督控制”两种方案在架构逻辑、安全机制、适用场景和迁移成本上的差异，帮助开发者与技术负责人理解在不可逆操作中如何设计可靠的人机协作边界。
在一次公开记录的技术实验中，一个 AI 智能体在一套基于开源硬件改造的电动手术平台上，对一只小鼠执行了脑部注射手术。实验的目标是减少癫痫发作：智能体拿到了 19 种基因治疗载体列表、一只已知会发作的小鼠、一个装有摄像头和电机的自制手术平台，以及一句任务说明。它需要自主完成从文献分析、靶点选择、坐标计算到注射执行的全过程。
真正引人关注的，不只是它完成了任务，而是它在执行过程中表现出的“拒绝行为”。在 Y 轴坐标出现异常偏移后，智能体连续两次拒绝执行移动指令，并明确指出这属于校准问题而非计划值错误。这个行为把一个问题推到台前：在脑部手术这类不可逆、高风险场景中，我们究竟应该让 AI 自主决策到什么程度？人工监督应该以什么形式介入？
这篇文章将对比两种方案：一种是 AI 自主规划与执行方案，即智能体根据任务目标自行完成分析、决策和操作；另一种是 人工监督控制方案，即在 AI 执行链路中嵌入人工关卡、物理急停和权限审批机制。两者不是完全对立的架构，而是在不同风险等级和任务复杂度下需要重新配比的控制策略。
该方案的核心是让智能体承担从目标理解到动作输出的完整决策链。在实验中，智能体需要完成以下环节：
这种方案的架构特征是：智能体处于决策中心，人类从“操作者”退居为“环境设置者”和“危机兜底者”。
该方案的核心是在 AI 执行链路的关键节点嵌入不可绕过的人类审批和物理控制。实验中体现为：
这种方案的架构特征是：人类保留对不可逆动作的最终否决权，AI 的自主性被限定在可撤销、可观测、可回滚的范围内。
两种方案表面上看起来是对立的，但在技术逻辑上有几个重要共同点：
无论是让 AI 自主选择靶点，还是让人类把关开颅环节，最终目的都是避免不可逆损伤。AI 的拒绝行为和兽医的急停开关，本质上是同一个安全目标在不同层级的表达。
AI 在手术中截图观察了 32 次，用于判断出血、回流和进程是否符合预期；人类兽医同样依赖视觉观察和平台数据来判断是否需要急停。两者都需要将摄像头画面、位置数据和任务状态做实时对齐。
实验中的系统并非“全自动”或“全手动”，而是呈现出明显的分层特征：AI 负责靶点选择、坐标计算和注射节奏，人类负责开颅、紧急断电和最终审批。无论从哪个方案出发，最终都会收敛到类似的分层控制模型。
AI 在 Y 轴异常时拒绝执行，和人类设置固定校验机制，都是为了捕捉“计划状态”和“物理状态”之间的偏差。这种状态一致性检查是高风险系统中最基础也最关键的环节。
尽管目标相似，两种方案在架构逻辑、决策权分配和故障处理上有显著差异。
AI 自主方案将决策权集中在智能体：它自行权衡文献、计算坐标、调整操作节奏。人类只在不可逆边界处设置硬约束。
人工监督方案则要求每一个不可逆步骤都经过人类确认。AI 的“思考”和“建议”可以被人类采纳，但最终执行权不完全在 AI 手中。
差异来源：决策权的分配直接决定了系统对 AI 判断错误的容忍度。在脑部手术场景中，AI 的靶点选择即使存在偏差，只要注射尚未发生，人类仍有纠正机会。这种“分阶段授权”是人工监督方案的核心设计逻辑。
当 Y 轴位置偏离 34 毫米时，AI 自主方案的表现是：分析偏差来源 → 判断为零点校准问题 → 拒绝执行 → 要求人类重新归零。人工监督方案则表现为：系统报警 → 兽医评估 → 物理断电或人工恢复。
相比之下，AI 自主方案的故障处理更偏向“软件层逻辑校验”，人工方案更偏向“物理层断电隔离”。前者处理速度快，但只适用于可被算法识别的异常；后者处理速度慢，但对未知异常和物理故障更可靠。
AI 自主方案的优势在于可复制性：一旦目标函数和安全边界定义清楚，同一套决策逻辑可以迁移到不同手术平台或不同疾病模型，边际成本低。
人工监督方案每次迁移都需要重新培训操作人员、重新设计审批流程、重新评估人工关卡设置，迁移成本显著更高。但它对未知场景的适应性更强，因为人类可以处理预期之外的问题。
在 AI 自主方案中，智能体的每一次决策、截图、坐标计算和拒绝行为都形成完整的数字记录。这在审计追溯上具有天然优势：知道“它为什么这么选”。
在人工监督方案中，人类的审批动作可能只有简单的确认记录，决策过程难以做到同等颗粒度的回溯。但人类签字确认在法律和合规层面仍具有不可替代的作用。
| 对比维度 | AI 自主规划与执行方案 | 人工监督控制方案 |
|---|---|---|
| 决策核心 | 智能体自行完成文献分析、靶点选择、坐标计算和操作节奏调整 | 人类在不可逆步骤保持最终决定权 |
| 安全机制 | 软件层校验、参数上限、异常自拒绝 | 物理急停、人工关卡、审批流程 |
| 故障响应速度 | 快，可在毫秒级完成逻辑判断 | 较慢，依赖人类反应和判断 |
| 未知异常处理 | 较弱，只能处理被预定义或可推理的异常 | 较强，人类可处理预期外情况 |
| 审计颗粒度 | 高，决策过程全程数字记录 | 较低，人工确认记录粒度有限 |
| 迁移与复制成本 | 较低，逻辑可跨平台复用 | 较高，需重新培训人员和设计流程 |
| 适用场景 | 可撤销操作多、可充分仿真测试、异常模式可枚举 | 不可逆操作密集、物理风险高、异常模式难以穷举 |
| 责任边界 | 人机责任划分仍需通过审批节点明确 | 人类签字确认，责任边界相对清晰 |
在这些场景中，AI 自主方案可以显著降低人工负担，同时保留完整的决策审计记录。
不要试图在 AI 自主与人工监督之间做二选一的绝对判断。 更合理的方式是根据“操作的可逆性”和“异常的可知性”进行分层授权：
可逆且异常可枚举的环节：优先采用 AI 自主方案，例如文献分析、坐标计算、剂量规划、视觉状态检查。这些环节即使出错，也可以在下一阶段被纠正。
不可逆但异常可枚举的环节：如注射执行，可以让 AI 执行，但必须设置参数上限、实时监控和自动终止条件。实验中的注射体积上限和出血检测就属于这类保护。
不可逆且异常不可枚举的环节：如开颅和物理设备复位，必须保留人工操作和人工审批。AI 可以提供建议，但不能绕过人类。
校准失败与仪表偏差：当系统出现 Y 轴 34 毫米偏差这类异常时，应尊重 AI 的拒绝行为，同时引入人工检查物理零点、传动装置和传感器状态。不要通过软件补偿掩盖物理问题。
如果要在类似高风险场景中部署 AI 自主决策系统，需要注意以下几点：
在实验启动前，必须定义清楚哪些参数超出范围时 AI 应立即停止。包括但不限于：位置偏差阈值、注射体积上限、进针速度最大值、视觉异常判定规则。实验中的“Y 轴偏离 34 毫米”就是一个典型的安全边界触发条件。
AI 的拒绝行为是软件层的自我保护，但仍可能因传感器故障、通信中断或逻辑漏洞而失效。物理急停开关必须独立于 AI 控制链路，能够直接切断执行机构电源。
每一次坐标计算、文献依据、视觉截图和拒绝行为都应被记录。这不仅是为了审计，更是为了让团队在事后分析 AI 的判断逻辑是否合理、是否有边界条件未被覆盖。
AI 首次拒绝执行后，不应立即强制重试。应按照“确认偏差来源 → 排除硬件问题 → 重新归零 → 再次校验 → 决定是否恢复”的流程操作。实验中 AI 连续两次拒绝后，团队选择重新归零并确认数值一致，这种做法值得借鉴。
实验中出现的问题本质上是计划坐标与物理坐标之间的零漂。在真实设备上，零点漂移可能来自电机失步、传动间隙或传感器误差。AI 的校验逻辑必须依赖可靠的物理零点，而不是假设每次归零都绝对准确。
AI 智能体在小鼠脑部手术中的表现，最有价值的不是“它成功完成了注射”，而是它在异常情况下“拒绝执行”并给出清晰逻辑判断。这种行为揭示了高风险场景下人机协作的关键原则：AI 的自主性应该用于提升信息处理效率，而不是用于替代人类对不可逆操作的判断权。
AI 自主方案与人工监督方案并非对立关系，而是需要在不同风险等级上动态配比的控制策略。设计者应重点关注三点：一是操作是否可逆，二是异常是否能被充分枚举，三是责任边界是否清晰。只有在这三个维度上做好区分，才能让 AI 在高风险场景中既发挥决策效率优势，又不突破安全底线。