简介:同一个大模型,为什么专业人士查出来的结论可用,普通用户自己问却可能踩坑?本文以近期“医生当面用AI查药”的争议为切入点,从大模型的工作原理、上下文质量、检索与决策的边界三个层面,拆解专业用法与大众自用的本质差异,并给出结构化提问、人机分工与风险规避的可落地建议,帮助你在专业场景中安全、高效地使用AI。
不久前,一段诊室视频引发热议:某医院心内科接诊一位老年高血压患者,家属告知医生,老人曾对“地平类”降压药出现不良反应,尿酸还偏高。医生表示需要查证资料,随后掏出手机,屏幕上既不是医院的用药系统,也不是专业数据库,而是一个任何人都能下载的通用AI助手。家属见状拒绝了后续处方,并将视频发布上网。院方随后给出了另一个版本:医生查证的是一种新药,发现并不合适,当天实际上没有开药。
两种说法孰是孰非,有待核实。但比事实认定更有价值的,是所有旁观者心里冒出的同一句质问:排队两个小时才轮到自己,医生却当着面打开一个自己手机里也能装的App,这合适吗?
把“医疗”这层外壳剥掉,这是一个所有专业场景都会遇到的问题:法律咨询、财务分析、系统架构设计、线上故障排查……同一个模型摆在面前,为什么专业用户能把它用成“加速器”,普通用户却可能把它用成“误导源”?答案并不在“谁有资质”这一表层,而藏在输入质量、校验能力、流程位置这三个更底层的地方。
要理解两种用法的差异,得先回到大模型的技术本质。当前主流大模型是自回归的概率生成系统:它根据已有文本,逐个预测“训练语料分布中最可能出现的下一个词”。这决定了三个关键特性:
回到这次争议,药理学背景其实并不复杂:地平类(二氢吡啶类钙通道阻滞剂)是降压治疗的主力家族;而尿酸偏高的患者选药另有讲究,噻嗪类利尿剂会减少尿酸排泄,把尿酸往上推;市面上还存在大量“沙坦+噻嗪”的复方降压药,名称里是沙坦,成分表里却藏着噻嗪成分。常规临床思路中,沙坦类、普利类、地平类是优先选项,利尿剂则需对尿酸保持警惕。两个约束一叠加:地平类因可疑的不良反应史受限,利尿剂因高尿酸受限,一手牌几乎被打掉两张。此时对新上市的品种一时记不准成分构成,掏出工具查证一下,本身是专业上站得住的动作。
所以“查”这件事不丢人,问题出在下一步:查到了信息之后,谁来做决策。
临床决策需要什么?肾小球滤过率、血钾水平、痛风史、正在服用的全部药物、肝功能状况……把这些抽象成工程语言:决策依赖的是某一个体的完整状态、约束条件与历史依赖,而通用助手拿到的往往只有几句碎片。
模型在缺少这些变量的情况下,给出的从来不是“为这个人定制的结论”,而是“面向所有人的平均结论”。用平均结论去覆盖个体决策,本身就是一类典型的系统性风险。
还有一条更隐蔽:语义歧义会被生活语言放大。 这位老人所谓的“过敏”到底是哪一种?地平类最常见的反应是踝部水肿和面部潮红,家属往往笼统称之为“过敏”,这类情况换药或调整剂量通常就能解决;而真正意义上的药物过敏,皮疹、唇舌肿胀甚至休克,意味着需要终身回避整类药物。两者的处置路径完全不同。
这个区分,AI问不出来,因为大模型的对话策略是响应式的:面对已给出的输入,它倾向于直接生成一个“看起来完整”的回答,而不是主动停下来追问缺失的关键变量,除非它被专门设计成澄清式助手。专业用户的核心价值之一,恰恰是他知道哪些变量是决策必需的,会在提问前主动补齐;而普通用户的困境在于,不知道自己不知道什么。
很多人以为,专业用户和普通用户用AI的差别只是“有处方权、有权限”。这只是最表层。
更本质的差异在输入端。普通用户输入的是碎片和情绪:“我爸高血压,对地平类过敏,尿酸还高,吃什么药?”专业用户输入的是结构化病史:年龄、诊断、不良反应史及其具体表现、合并症、当前用药、关键检验值,外加一个明确的任务定义。同一个模型,面对两种输入,输出质量天差地别。
提示词敏感性不是玄学,而是可以被测量的工程问题。国内有团队曾用数十个真实药学问题对主流大模型做过公开测评:仅仅换一种提问方式,模型回答药物相互作用的正确率,一款从约12%升到约24%,另一款却从约41%跌到约22%。同样的问题、同样的模型,问法一变,正确率翻倍或腰斩——这正是专业场景必须做提示工程、建评测集、跑回归测试的原因。
对比一下两种问法。
反例(碎片式输入):
我爸高血压好几年了,对"地平类"过敏,尿酸还高,这个药到底能不能吃?
正例(结构化输入,示意):
{"task": "梳理候选降压药类别及各自禁忌与注意事项,不给出最终处方结论","patient": {"age": 72,"diagnosis": "原发性高血压","adverse_reaction_history": {"drug_class": "二氢吡啶类钙通道阻滞剂(地平类)","manifestation": "家属口述'过敏',具体表现未知,需先区分副作用与免疫性过敏"},"comorbidities": ["高尿酸血症"],"current_medications": [],"labs": { "eGFR": null, "blood_potassium": null, "liver_function": null }},"constraints": ["警惕噻嗪类利尿剂对尿酸排泄的影响","注意含噻嗪成分的复方制剂"],"output_rules": ["先列出为完成判断还缺失哪些关键信息","信息不足时不得给出结论性建议","对每条结论标注确定性等级"]}
结构化模板做了四件事:把已知事实与不确定事实分开;把任务边界写清楚(要选项清单,不要最终处方);显式声明约束;强制模型在信息不足时先列出缺口而不是强行作答。这四件事,恰恰是普通用户不会做、而专业训练让人下意识会做的事。
第一重:校验能力。 专业用户能一眼看出输出里的幻觉,比如把含噻嗪成分的复方制剂当成单纯的沙坦类药,就像资深工程师能一眼看出模型编造了一个不存在的接口参数。知识储备在这里的角色不是替代AI,而是充当AI输出的“读校器”。没有这层校验,错误信息会原样落地。
第二重:责任闭环。 专业用户对最终结论负责,错误可以被发现、被纠正、被追责,全过程有留痕;大众自用没有任何纠错回路,模型说错了,代价直接落在提问者自己身上,且事后无从追溯。
第三重:流程位置。 在专业流程里,AI被安放在“辅助检索”环节,最终决策由人完成,并对照规范与制度复核;大众自用则常常把AI直接推上“决策”环节,跳过了中间所有该有的关卡。工具放错了位置,比工具本身的能力缺陷更危险。
与其争论“专业者能不能用AI”,不如讨论“AI应该以什么架构进入专业流程”。业界已有一套相对成熟的实践:
一个示意性的分流逻辑大致如下:
def handle(query, ctx):# 第一层:场景分级——高风险域只允许"辅助"if ctx.domain in HIGH_STAKES_DOMAINS:mode = "ASSIST_ONLY"# 第二层:上下文完整度——缺关键变量先追问,不强答missing = check_required_fields(ctx)if missing:return clarify(missing)# 第三层:生成后校验——规则复核并留痕draft = llm(structured_prompt(query, ctx))return audit(rule_review(draft))
对普通用户,这套思路可以简化成三条个人守则:把AI当作预习和整理工具,而不是裁决者;提问前先把关键事实、约束与不确定之处想清楚、写明白;涉及重大决策时,把AI输出当作“待验证的线索”交还给专业人士做最终判断,并且永远不要为换取更好的答案而上传敏感原始数据。
医生查AI与患者自己查AI,用的可能是同一个App、同一个模型,但两者之间隔着的,是结构化的输入、能识别幻觉的知识底座,以及对结果负责的闭环。AI没有消解专业壁垒,它只是把壁垒从“知道答案”迁移到了“会问、会验、会担责”这三个动作上。
工具越强大,使用者的判断力就越值钱。这大概是这场诊室风波之外,最值得每一个技术从业者记住的结论。