AI辅助诊疗的信任困局：临床决策权该归谁

一、一个真实场景引发的技术信任拷问

近日，一则关于“医生问诊时使用AI工具查询药物信息，患者拒绝接受处方”的讨论在网络上引发广泛关注。事件的经过并不复杂：一位老年高血压患者前往医院心血管内科就诊，患者家属告知医生，患者对某类降压药物过敏，同时伴有尿酸偏高的情况。医生表示需要查询新药是否适用，随后打开了一款AI对话工具进行检索。最终，患者并未接受医生开具的处方。

事后院方解释称，当天坐诊的医生只是在查询一种新药是否适合该患者使用，经查发现不适合，便未开具处方。从医学逻辑上看，医生的行为并没有问题——面对过敏体质合并高尿酸的复杂患者，核实药物适用性恰恰是负责任的表现。但患者的不信任也是真实的：当医生当着患者的面打开AI工具时，患者心中浮现的问题是——“看病做决定的，到底是医生还是AI？”

这个场景折射出的，远不只是一个医患沟通问题。对于从事医疗信息化、AI辅助诊疗系统开发的工程师和产品团队而言，它揭示了一个核心技术命题：在AI辅助决策系统中，如何让用户（无论是医生还是患者）清晰地感知到“最终决策权仍然在人手中”？

二、从书籍到搜索引擎再到AI：查询行为的本质没有变

要理解患者的心理落差，我们需要先厘清一个事实：医生在诊疗过程中查阅资料，并不是AI时代才有的新鲜事。

在纸质文献时代，医生在诊室里翻阅药典、临床指南、专业期刊，是极为常见的场景。没有人会因为医生翻书而质疑其专业能力——在大众认知中，翻书只是“回忆”或“核实”，最终的判断仍然由医生做出。

到了互联网时代，搜索引擎成为医生获取信息的新渠道。“医生看病也查搜索引擎”开始引发调侃，但大多数人仍然能够接受，因为搜索行为被认为是辅助性的。

进入AI时代，大语言模型以其强大的信息整合与自然语言交互能力，迅速成为医生查询资料的新工具。然而，患者的质疑反而更强烈了。这看似矛盾——AI明明只是更高效的查询工具，为什么反而更让人不信任？

答案在于：AI工具的输出形态与书籍、搜索引擎有本质差异。

• 书籍提供的是结构化的知识，需要读者自行理解和判断；
• 搜索引擎返回的是链接列表，信息筛选权仍在用户手中；
• 而AI对话工具直接生成一段“结论性”的文本，语气笃定、逻辑自洽，极易被误认为“AI已经做出了判断”。

这就是信任断裂的根源——AI的输出形态模糊了“信息检索”与“决策生成”之间的边界。

三、信任断裂的技术本质：决策链路不透明

从系统工程的角度来看，这个问题的本质是决策链路的不透明性。

在一个典型的临床诊疗流程中，决策链路大致如下：

患者症状 → 医生采集信息 → 医生调用知识库（书籍/文献/搜索/AI）→ 医生综合判断 → 开具处方

在传统场景中，患者能够清晰地看到：医生是决策主体，知识库是辅助工具。因为“查阅”这个动作是可见的、有限的、有物理边界的。

而在AI辅助场景中，问题出在以下几个方面：

1. 过程不可见。 医生在AI工具中输入了什么？AI返回了什么？患者无法看到。这导致患者无法判断医生是在“核实信息”还是在“让AI做决定”。

2. 输出具有“权威感”。 大语言模型的输出往往是结构完整、语气确定的建议性文本。当医生面对这样的输出时，即使他仍然在做独立判断，患者也难以分辨。

3. 缺乏决策归因机制。 在现有的大多数AI辅助工具中，系统并不会标注“此结论由AI生成，仅供参考”或“最终决策由医生做出”。这种归因机制的缺失，使得决策责任变得模糊。

4. 验证成本高。 患者即使想了解AI输出是否合理，也缺乏足够的医学知识去验证。这种信息不对称加剧了不信任。

四、开发者视角：医疗AI辅助系统的设计原则

对于从事医疗AI系统开发的团队而言，这个案例提供了极具价值的设计启示。以下是几条关键原则：

4.1 决策权归属必须显性化

系统设计必须始终明确：AI是辅助工具，不是决策主体。 这不应只是一句口号，而应体现在产品交互的每一个细节中。例如：

• AI输出结果应标注“参考信息”而非“诊断建议”；
• 关键决策节点应要求医生手动确认，而非自动填充；
• 系统日志应记录“医生采纳/修改/拒绝了AI的哪条建议”。

4.2 检索过程的可解释性

AI辅助工具应提供可追溯的信息来源。例如，当AI建议某种药物时，应同时展示其依据的临床指南、药品说明书或文献出处。这不仅有助于医生判断，也能在必要时向患者解释。

一个示意性的数据结构可能如下：

{
  "query": "某类降压药在痛风患者中的适用性",
  "ai_summary": "该药物可能升高尿酸水平，建议慎用。",
  "evidence": [
    {
      "source_type": "clinical_guideline",
      "source_ref": "高血压合并高尿酸血症诊疗指南（2023版）",
      "relevance_score": 0.95,
      "recommendation": "不推荐作为一线用药"
    },
    {
      "source_type": "drug_label",
      "source_ref": "某类药物说明书",
      "relevance_score": 0.88,
      "recommendation": "痛风患者慎用"
    }
  ],
  "confidence": 0.87,
  "decision_required": true,
  "decision_maker": "physician"
}

4.3 交互界面的“人在回路”设计

在诊室场景中，AI工具的界面设计应避免“黑箱感”。具体而言：

• 输入和输出应尽可能对患者可见（如使用双面屏幕或语音播报）；
• 当AI输出与医生判断不一致时，系统应提示医生记录理由；
• 提供“向患者解释”的辅助功能，帮助医生将AI检索结果转化为通俗语言。

4.4 审计与回溯能力

从工程角度，系统应具备完整的审计日志能力。每一次AI查询、每一条AI输出、医生的每一次采纳或修改，都应被记录并可回溯。这不仅是合规要求，也是建立信任的技术基础。

五、超越医患关系：AI辅助决策的通用挑战

这个案例虽然发生在医疗场景，但其揭示的问题具有普遍性。在任何涉及AI辅助决策的领域——金融风控、法律咨询、工业质检、自动驾驶——都面临同样的挑战：当AI系统参与到关键决策链路中时，如何让利益相关方信任最终的决策结果？

通用的解决思路可以归纳为三个层面：

技术层面： 提升AI系统的可解释性，提供决策依据和置信度评估，建立完整的审计日志。

交互层面： 明确标注AI的角色边界，设计“人在回路”的确认机制，避免AI输出被误读为最终决策。

制度层面： 建立AI辅助决策的责任归属框架，明确各方的权利与义务。

六、结语

回到文章开头的问题：为什么患者能接受医生翻书，却难以接受医生用AI？

答案并不在于AI本身是否可靠，而在于AI的输出形态模糊了“谁在做决定”这一根本问题。 对于医疗AI的开发者而言，技术能力固然重要，但更关键的是在系统设计中始终贯彻一个原则——AI可以辅助判断，但不能替代判断；可以生成建议，但不能替代责任。

只有当初次决策权归属在系统层面被显性化、在交互层面被可视化、在制度层面被规范化，患者对“医生用AI”的信任才可能真正建立。而这，恰恰是当前医疗AI系统设计中最容易被忽视、却最不能忽视的一环。