从生成式到判别式：大模型架构的演进与分化

一、概念定义：大模型架构的演进与分化是什么

大模型架构的演进与分化，指的是以 Transformer 神经网络结构为共同基座，语言模型在“如何读取输入”与“如何产生输出”这两个关键环节上不断被重新设计，进而分化出多条技术路线的过程。理解这一概念，需要抓住三个层次：

• 共同基座不变：2017 年提出的 Transformer 确立了“以自注意力机制为核心”的建模范式，此后几乎所有主流大模型都构建在该结构之上。各条路线的分歧，不在于是否使用注意力，而在于注意力的方向（双向还是单向）、训练的目标（理解还是生成）以及输出的形式（自由文本还是受限结构）。
• 两条主流路线成形：以双向编码器为代表的“理解路线”和以自回归解码器为代表的“生成路线”长期并列发展，分别服务于“读懂材料”与“写出内容”两类需求。近年来国内外的前沿大模型，绝大多数沿生成路线持续演进，通过扩大参数规模、扩展上下文长度、引入混合专家等通用技术不断提升能力上限。
• 最新一轮分化——判别式大模型：近期业界出现的一类新模型，代表了“输出端”的一次根本性再设计。它与常见语言模型的区别可以概括为一句话：不生成文本，只做判断。具体而言，它针对给定的输入材料，只回答三类限定形式的问题——从若干选项中选出一个、在若干等级上给出评分、判断一个陈述是否成立——并直接返回各个候选答案的概率。以业界常见情况为参照，生成式模型完成一次自由回答通常需要数秒到数分钟，而这类模型完成一组判断只需百毫秒量级。

为便于表述，下文将这类“只判断、不生成”的模型统称为判别式大模型。需要强调的是，它并非某个具体产品，而是一种可以严格定义的架构形态：Transformer 式的输入编码能力 + 预先定义的封闭答案空间 + 轻量答案头直接输出概率分布。

二、背景与价值：架构为什么会走向分化

架构分化不是偶然的技术尝试，而是任务结构与计算成本共同推动的结果。

第一，自回归生成的成本结构与判断类任务严重不匹配。生成式模型每输出一个 token 都要执行一次前向计算，回答耗时与答案长度成正比。但在大量业务场景中，模型要给出的“答案”其实极小——一个选项、一个分数、一个“是”或“否”。若用生成式模型完成这类任务，模型仍要逐 token 展开，甚至经常先输出一大段分析文字再给出结论，计算开销被大量消耗在“解释过程”而非“给出结论”上。

第二，判断类任务在真实业务中占比极高，且对时延和稳定性敏感。内容审核、质量评分、相关性判断、事实核查等场景往往发生在高并发在线链路中：审核结果要在内容发布前实时返回，评分要在排序管线中批量完成。这些场景既要求百毫秒级的响应，也要求输出格式绝对稳定、可被下游程序直接消费——这恰是自由文本生成难以稳定保证的。

第三，分化带来了明确可衡量的价值。对判别式大模型而言：响应从“秒级/分钟级”压缩到“百毫秒量级”；单次判断的计算量与答案长度彻底解耦；输出是封闭集合上的概率分布，天然结构化，不存在格式漂移；概率值还可以按业务误判成本设置阈值、做置信度分流，让“高置信自动处理、低置信转人工”成为可工程化的标准做法。

第四，架构演进的内在逻辑支持这种分化。“读取输入”与“产生输出”本来就是两个相对独立的设计点：前者决定模型对材料的理解深度，后者决定模型交付结果的方式。过去几年的演进主要发生在读取端（更长的上下文、更强的编码能力），而判别式大模型把革新推进到了输出端这一环节上。

三、架构演进脉络：从原始 Transformer 到三条路线

1. 起点：2017 年的原始 Transformer

原始 Transformer 采用编码器-解码器成对结构，为序列到序列的转换任务而生。它的核心贡献是确立了自注意力机制：序列中任意两个位置都可以直接建立关联，摆脱了循环网络逐步传递信息的串行限制，使大规模并行训练成为可能。此后所有大模型架构的分化，都可以看作是对这一结构中“编码器怎么用、解码器怎么用”的不同取舍。

2. 路线一：纯编码器架构——面向理解的双向阅读

纯编码器路线只保留 Transformer 的编码器部分，采用双向注意力，让每个词同时看到左右两侧的上下文；预训练目标通常是“遮盖还原”：随机遮住部分词元，让模型根据上下文还原它们。这种训练方式塑造了强大的语言理解能力，模型输出的是对输入的上下文表示，而非连续文本。

在落地形态上，这类模型通常在编码器之上接一个轻量分类头来完成具体任务——这正是“判别式输出”的早期雏形：不做生成，直接对输入做分类判断。它的局限也很明显：模型规模相对有限，答案空间通常需要针对具体任务微调，跨领域泛化能力不足。

3. 路线二：纯解码器架构——面向生成的自回归书写

纯解码器路线只保留解码器部分，采用因果注意力（每个词只能看到左侧上文），以“预测下一个词元”为训练目标。随着参数规模、数据规模与指令微调技术的跟进，这条路线展现出强大的通用性：模型可以通过上下文示例“现学”任务，胜任写作、对话、摘要、代码等开放式生成任务，成为近年前沿大模型的主流选择。

它的代价同样清晰：自回归解码必须逐 token 进行，时延与答案长度绑定；自由文本输出需要额外的解析和校验才能接入结构化业务流程；采样策略还会带来输出的不确定性。

4. 分化：判别式大模型把两端优势组合起来

判别式大模型可以看作对前两条路线关键能力的重新组合：

• 读取端：保留并强化 Transformer 式的输入编码能力，能够充分理解长篇输入材料，且不必然受“从左到右”的单向约束；
• 输出端：彻底放弃“生成下一个词”的范式，把输出收缩为一个预先定义好的封闭答案空间——选择题的候选集、评分题的等级量表、判断题的“成立/不成立”二值集合；
• 交付端：在编码表示之上接一个轻量答案头，一次前向计算即可经 softmax 归一化，返回答案空间上的完整概率分布。

用示意性伪代码对比两种范式：

# —— 生成式范式：逐 token 自回归解码 ——
answer = ""
while not is_finished(answer):        # 循环多次前向计算
    next_token = model.decode(context, answer)
    answer += next_token              # 耗时随答案长度线性增长
# 得到一段自由文本，往往还需二次解析才能变成结构化结果
# —— 判别式范式：一次前向，直接输出概率 ——
repr  = model.encode(material, question)   # 输入编码：单次前向
probs = softmax(answer_head(repr))         # 映射到封闭答案空间
# 选择题示例：{"选项A": 0.72, "选项B": 0.21, "选项C": 0.07}
# 评分题示例：{"差": 0.02, "中": 0.19, "良": 0.35, "优": 0.44}
# 判断题示例：{"成立": 0.91, "不成立": 0.09}

四、工作原理：判别式大模型如何完成一次判断

一次完整的判断可以拆解为四个步骤：

1. 输入编码：将输入材料与问题模板拼接后送入模型，经多层自注意力的逐层抽象，形成对全文的上下文表示。整个过程是一次性、并行的前向计算，不涉及逐 token 展开。
2. 答案空间建模：任务在接入时就被形式化为封闭集合——候选选项列表、评分等级量表或二值判断集合。答案空间是事先约定好的，模型不负责“发明”答案。
3. 概率输出：答案头把上下文表示映射到答案空间维度上，经 softmax 归一化后得到每个候选答案的概率，并一次性返回全部概率，而不是只返回一个孤立结论。
4. 结果消费：业务侧既可以直接取概率最高的答案，也可以按完整分布设计决策逻辑，例如“最高概率低于 0.6 时转人工复核”。

为什么能做到百毫秒量级？根本原因是计算量与输出长度解耦：生成式模型需要执行 K 次前向计算（K 为生成 token 数），K 越大越慢；判别式模型无论答案空间多大，始终只需一次前向。同时，由于不需要生成解释性文字，输入编码完成后即可出结果。

为什么输出更稳定？因为输出空间是封闭且预先定义的，模型不存在“格式跑偏”“画蛇添足的发挥”等生成式常见问题；概率值是归一化后的连续量，便于监控、校准和阈值化管理。

两类模型的系统对比如下：

对比维度	生成式大模型	判别式大模型
输出形式	自由文本，逐 token 生成	封闭答案空间上的概率分布
计算过程	多步自回归解码	单次前向计算
典型时延	数秒到数分钟	百毫秒量级
擅长任务	写作、对话、摘要、代码	选择、评分、陈述判断
输出确定性	受采样策略影响，可能格式漂移	概率分布固定，可阈值化消费
接入方式	常需二次解析	天然结构化，可直接进业务规则

五、典型应用场景

判别式大模型的价值集中在“高频、大批量、需要结构化结论”的判断类任务上：

• 内容安全与合规审核：判断“某条内容是否包含风险”“声明与正文是否一致”等陈述是否成立。审核发生在发布链路上，百毫秒级响应才能做到实时拦截，概率输出则便于按风险等级分流处置。
• 质量评估与智能评分：对作文、回答、服务等对象按预定等级评分。封闭等级量表天然匹配评分题模板，概率分布还能暴露评分的把握程度。
• 检索与推荐中的相关性判断：给定查询与候选文档，从“相关/部分相关/不相关”等选项中选择。排序管线需要批量处理海量配对，单次判断的计算成本直接决定管线的吞吐上限。
• 大规模数据标注与评测预筛：先用判别式模型做低成本预标注，人工只复核低置信度样本，可显著压缩标注与评测的人力成本。
• 检索增强生成中的证据核查：在把检索到的材料交给生成式模型作答之前，先判断材料是否支持问题结论，过滤噪声证据，提升最终回答的可信度。
• 模型对齐环节的偏好判断：在多个候选回答中选出更优者。这类“两两比较、输出选择”的任务本身就是标准的选择题形态。

六、与相关概念的区别与联系

• 与生成式大模型：二者是互补关系而非替代关系。生成式模型负责“从无到有地产出内容”，判别式模型负责“对已有内容给出结构化判断”。开放域问答、创作、多步推理仍必须依赖生成能力；而在封闭判断上，判别式形态在时延与稳定性上具有数量级优势。
• 与传统的预训练编码器分类模型：两者同属“判别式输出”范式，但判别式大模型在模型规模与预训练充分性上跨上了新台阶，因而具备更强的跨领域泛化与少样本适配能力，能够直接理解长篇复杂材料，无需针对每个任务从零微调。
• 与“让生成式模型输出结构化结果”的做法：通过提示词或约束解码让生成式模型输出指定格式，本质上仍是逐 token 生成，时延依旧与输出长度挂钩；而且生成式模型给出的“置信度”通常是逐 token 概率的派生量，并非答案空间上的直接概率分布。判别式大模型则是从架构层面把输出定义在答案空间上，二者存在本质区别。

七、使用注意事项与选型建议

1. 先判断任务边界：只有答案可以穷举为封闭集合的任务才适合判别式形态；开放式创作、开放式问答、需要长链推理的任务仍应交给生成式模型。
2. 认真设计答案空间：选项必须互斥且完备，评分等级的语义要事先明确并保持稳定。答案空间的定义质量直接决定输出概率的业务含义。
3. 做好阈值与校准：概率阈值应按业务误判成本调校——宁可多转人工也不应放过高风险误判；同时需持续监控概率分布是否随数据漂移而偏移。
4. 采用混合编排：实践中常见的高效组合是“判别式在前、生成式在后”：先用判别式模型完成高频过滤与判断，只把需要解释、生成或深度推理的少量流量交给生成式模型。
5. 关注服务化指标：无论调用百度智能云等云平台的模型服务，还是自建推理环境，都应重点评估时延 SLA、批量判断吞吐、单次调用成本与并发弹性，并确认其与业务峰值匹配。
6. 守住安全合规底线：涉及高风险决策（如处罚、拒审）时保留人工复核环节；输入材料含敏感数据时，注意数据脱敏与部署形态的合规要求。

八、总结

回到定义本身：大模型架构的演进与分化，本质上是“读取输入”与“产生输出”两个设计点的持续再设计。从 2017 年的原始结构，到双向编码器与自回归解码器两条主流路线，再到当前的前沿模型，革新大多发生在读取端；而判别式大模型把革新推进到输出端——将输出从无限大的文本空间收缩为封闭的答案空间，用一次前向计算换取百毫秒级响应与稳定的概率输出。

判别式大模型不是生成式大模型的对手，而是它的分工伙伴：生成式模型负责“创作与解释”，判别式模型负责“判断与把关”。理解这条分化脉络，能帮助开发者和选型者在“生成”与“判断”两类需求之间做出更准确的架构决策，让每一类任务都运行在最合适的模型形态上。