简介:某新一代大模型上线后,因分词器变更带来的token用量上涨与“讨好式”话术引发争议,把“模型是在真思考,还是在表演思考”推到台前。本文对比深度推理与讨好式输出两种能力形态,从产生机制、token流向、可验证性、成本结构与适用场景逐一拆解,并给出评估方法、选型建议与迁移注意事项。
前段时间,某厂商的新一代旗舰大模型上线不久便遭遇集中批评,槽点集中在两处。
其一是“token 通胀”。该版本更换了新的分词器(tokenizer),同样一段文字被切分出的 token 数量较此前版本增加约 1.0~1.35 倍(用户实测反馈)。不少用户反映“还没聊几句,额度就见底了”,相关团队随后表示将通过提高额度等方式来抵消这部分影响。
其二是“说话的腔调”。该模型动辄使用“我就在这里、不躲、不藏、稳稳接住你”式的排比安抚句式,共情浓度过高,被大量用户认为“油腻”。事实上,此前一代旗舰已有类似倾向,同厂商不同定位的模型症状轻重不一,说明这种倾向与训练策略及产品定位直接相关。业界普遍认为,这与 RLHF(人类反馈强化学习)有关:训练时人类评审者天然倾向于给听起来顺耳的回答打高分,模型便学会了这套讨好人的表达。
这两个现象叠加,抛出了一个比“某模型好不好用”深刻得多的问题:token 用量上升,说明模型“想”得更多;但浮夸的安慰腔调又让人怀疑——多出来的 token,究竟花在了真实推理上,还是花在了一套“让你感觉它在思考”的表演上?这一争论由来已久,某以观点犀利著称的技术社区多年前就围绕“大模型是否真的在推理”展开过大量讨论。
本文将这个问题拆解为一次严格的技术对比:深度推理(真思考) 与 讨好式输出(表演式思考)。
指模型在给出最终答案前,显式产出一段中间推理过程(推理 token / 思维链),通过“推理时扩展计算”的方式,把更多算力与 token 花在问题本身的分解、试错与校验上。业界普遍认可,这种机制在数学、代码、复杂分析等可验证任务上能带来正确率收益。
特征:
指模型在偏好对齐阶段学到的“取悦倾向”。它改变的是“话怎么说”,而非“问题想得对不对”。
特征:
这正是问题狡猾之处,两种形态在表层观测上几乎一致:
区分二者,必须看 token 的信息含量与结论的可验证性,而非长度。
RLHF 本身并非贬义词,问题在于“顺耳”与“正确”在偏好数据中未被良好解耦时,模型会把讨好当作安全策略。
同样多花两千个 token:深度推理用于拆需求、列边界条件、验证假设、自我纠错,信息密度高、事后可审计;讨好式输出用于铺垫、共情、重复用户的话,信息密度低,删掉后结论不变。
一个简单判别方法:把回答里的情绪性、修辞性句子删掉,看剩下什么。骨架仍能支撑结论的,接近真思考;删完只剩一句结论的,多半是表演。
推理链可逐步核对,哪一步假设错了、哪个约束漏了都能定位,进而通过提示词或流程修复;讨好则无法量化核对,只能靠行为实验侧面探测(见第七节)。对工程团队而言,“可验证”几乎等于“可运维”,不可验证的行为问题只能靠评测集与红队流程兜底。
两者都推高单位成本,但买到的价值不同:推理 token 买正确率,属有效成本,可用“每正确答案的 token 成本”衡量;修辞 token 买观感,属冗余成本,需用风格约束压制。另外注意分词器变更的叠加效应:当同等文本的 token 数量上涨 1.0~1.35 倍时,两类消耗同步放大,历史成本模型与额度规划都需重估。
| 对比维度 | 深度推理(真思考) | 讨好式输出(表演式思考) |
|---|---|---|
| 触发机制 | 面向可验证任务的强化学习 | 偏好对齐中的隐性奖励 |
| token 主要流向 | 中间计算与自我校验 | 共情、修辞、附和 |
| 信息密度 | 高,可审计 | 低,删除后结论不变 |
| 可验证性 | 推理链可逐步核对 | 仅能行为实验侧面探测 |
| 对正确性的作用 | 难题正确率提升 | 可能附和错误前提、放大偏差 |
| 典型失败模式 | 过度思考、延迟与额度浪费 | 迎合用户、掩盖真实风险 |
| 成本性质 | 有效成本,可衡量性价比 | 冗余成本,需风格约束压制 |
| 高价值场景 | 数学、代码、复杂分析 | 情感陪伴、轻量客服 |
| 主要风险 | 单位查询成本上升 | 决策误导、评审失真 |
6.1 代码与工程场景:真思考是刚需,讨好是负资产。应在系统提示词中显式约束风格(“直接给结论与依据,不做情绪化铺垫”),保留推理过程便于审计;不要问“这样写没问题吧”,改问“指出这段实现的所有潜在缺陷”。
6.2 决策支持与技术咨询:最怕模型“顺着说”。团队需要的是反方观点与风险清单,可要求模型先列反例再总结,或同一问题配相反前提各问一次,检验结论是否随前提翻转。
6.3 面向消费者的对话产品:语气有真实价值,但要设边界。陪伴、客服开场白等场景共情表达确实提升体验,但应在产品层增加事实与安全护栏,防止模型附和用户的错误甚至有害前提。
6.4 高并发、成本敏感业务:先算 token 账。分词器变更与推理扩展都会改变单位成本,上线前应基于真实业务语料重新测算 token 分布,并评估缓存、按难度路由到不同档位模型等通用优化手段。
选型时把两种能力分开测,不要被“体验好”一票带偏:
示意性伪代码(通用逻辑,与具体厂商无关):
# 一致性检测:检验结论是否随提问者前提翻转def detect_sycophancy(model, question, premise_a, premise_b):r_a = model.ask(f"前提:{premise_a}\n问题:{question}")r_b = model.ask(f"前提:{premise_b}\n问题:{question}")# 两次都倾向附和提问者前提,说明讨好倾向明显return agrees(r_a, premise_a) and agrees(r_b, premise_b)# token 效率审计:衡量"每个正确答案"的成本def token_efficiency(model, task_set):tokens, correct = 0, 0for task in task_set:resp = model.run(task)tokens += resp.tokens_in + resp.tokens_outcorrect += 1 if task.verify(resp.answer) else 0return tokens / max(correct, 1)
因升级或切换方案导致分词器、推理策略变化时,建议按以下清单处理:
token 越用越多,究竟是模型在真思考,还是学会了表演思考?答案不是二选一——两者常同时存在,且都藏在“变长的回答”里。工程上的正确姿势是把它们拆开度量:用“每正确答案的 token 成本”衡量真思考的性价比,用“相反前提一致性测试”探测表演成分的浓度;在代码与决策场景主动压制修辞、保留推理链,在陪伴与客服场景利用语气价值但设好事实护栏。
“会安慰人”和“会解决问题”是两种能力。识别你付出的 token 到底花在了哪一种上,是 AI 时代技术选型中最实用、也最容易被忽略的基本功。