简介：本文面向大模型初学者，系统梳理从基础定义、大语言模型、多模态模型到推理模型的核心概念，并解释L0/L1/L2分级、基础模型、垂域模型、场景模型及混合专家模型等关键术语。通过阅读，读者可快速建立大模型知识框架，为后续深入学习和工程实践打下基础。
“大模型”这个概念并不存在一个绝对精确的参数阈值，而是随着技术演进不断被重新定义。早期，数百万参数的网络已可称为大模型；而当前语境下，大模型通常指参数量达到数十亿、数千亿甚至更高量级的人工智能模型。更关键的是，当参数规模与训练数据规模同时跨越某个临界点后，模型会表现出一些在小规模模型中难以观察到的能力，例如上下文学习、复杂推理、跨任务泛化等。这些能力常被称为“涌现能力”。
大模型的“大”体现在三个维度：参数数量大、训练数据量大、计算资源消耗大。参数是模型内部可学习的权重，数量越多，理论上模型的表达空间越大；训练数据决定了模型能够学习到的知识分布与语言规律；计算资源则是支撑大规模训练与推理的基础设施条件。三者共同决定了模型最终的能力上限。
从应用角度看，大模型的核心价值在于其通用性。传统机器学习模型通常针对单一任务训练，例如文本分类或图像识别；而大模型在预训练阶段学习了广泛的知识与模式，能够通过提示词、微调或对齐训练适应多种下游任务，显著降低了从零开发专用模型的成本。
大语言模型（Large Language Model，LLM）是大模型中最具代表性、应用最广泛的一类。它专注于自然语言的理解与生成，通过在海量文本语料上进行预训练，学习词汇、语法、语义、常识以及文本中隐含的逻辑关系。
其训练目标可以形式化理解为：给定一段上文，预测下一个词出现的概率分布。这一看似简单的目标，在足够大的模型容量与数据规模下，能够驱动模型学习到深层的语言结构和世界知识。训练语料通常涵盖书籍、百科、技术文档、网页、对话记录等多种来源，以保证模型对正式表达、口语化表达、专业术语等不同语域的适应能力。
经过预训练的大语言模型已经具备一定的通用能力，但直接使用时可能产生不符合人类预期的输出。因此，实际工程中通常还需要进行监督微调和基于人类反馈的强化学习等对齐阶段，使模型的回答更加准确、安全、符合指令要求。大语言模型的关键能力包括：文本生成、摘要、翻译、问答、代码生成、对话交互等。它也是后续垂域模型、场景模型以及推理模型的重要基础。
现实世界的信息并非只有文本。人类在理解世界时，会自然地融合视觉、听觉、语言等多种信号。多模态大模型的目标正是让机器具备类似的能力——同时处理文本、图像、音频、视频等多种类型的数据，并在不同模态之间建立关联。
多模态大模型的技术难点在于“对齐”。不同模态的数据表示方式差异巨大：文本是离散的符号序列，图像是连续的像素矩阵，音频是时序波形。要让模型理解“一张猫的照片”和“猫这个文字符号”指向同一概念，就需要在表示空间中将它们对齐。常见做法包括使用独立的编码器处理各模态数据，再通过跨模态注意力机制或对比学习等方式，将不同模态的表示映射到统一语义空间。
多模态大模型的典型任务包括：图像描述生成、视觉问答、图文检索、视频内容理解、语音到文本的跨模态转换等。其应用价值在于降低人机交互门槛——用户可以通过上传图片、语音或视频与系统沟通，而不再局限于纯文本输入。在工业质检、医疗影像辅助分析、内容审核、智能教育等场景中，多模态能力能够显著拓展模型的应用边界。
普通大语言模型在生成回答时，往往是基于统计规律直接输出下一个词，这在复杂数学题、多步逻辑推导等任务上表现不佳。推理大模型则通过专门的设计，强化模型“逐步分析”的能力。
推理能力通常来自两个层面的改进。一是训练方法：在训练数据中引入大量带有推理链的样本，让模型学会将复杂问题拆解为中间步骤，逐步推导最终答案；或使用强化学习，以最终答案的正确性和推理过程的合理性作为奖励信号，引导模型形成更稳定的推理策略。二是模型结构：部分推理模型采用更强的注意力机制或记忆模块，使模型在长链条推理过程中能够保持中间状态的一致性。
推理大模型的评价标准不同于普通生成模型。除了答案的准确性之外，推理步骤的逻辑性、可解释性和可验证性同样重要。例如，在数学证明、程序调试、策略规划等任务中，用户不仅希望获得结果，还希望了解模型是如何得到该结果的。这使得推理模型在科学计算、代码生成、智能决策等领域具有重要价值。
大模型领域常使用L0、L1、L2的非官方分级，来描述模型从通用到专用的演进路径。这一分级并非严格标准，但有助于理解不同模型产品的定位与适用场景。
L0级对应的是基础大模型，也称基座模型。它在大规模通用数据上完成预训练，具备广泛的通用能力，但尚未针对任何特定领域或场景进行深度优化。基础模型的特点是“广而不精”——能够处理各类常见问题，但在高度专业化的任务上可能缺乏深度。
基础模型是上层应用的“原材料”。大多数企业和开发者不会从零训练一个基础模型，而是在已有基础模型之上进行适配。选择基础模型时，需要关注其参数规模、预训练数据质量、上下文长度、推理效率以及开放程度等指标。
L1级是垂域大模型，即在基础模型之上，使用某一专业领域的数据进行持续预训练或微调后的模型。例如，使用大量医学文献训练的模型在医学术语理解、疾病关联推理方面会显著优于通用模型；使用法律条文和判例训练的模型则更擅长法条引用和案例比对。
垂域模型的训练关键在于数据质量与数据配比。专业领域的数据往往来源有限、标注成本高，因此需要对数据进行严格的清洗与筛选，避免引入噪声。同时，微调过程中要注意防止“灾难性遗忘”——模型在获得领域知识的同时，不应丧失其在基础模型阶段学到的通用语言能力。常见的策略包括混合训练、小学习率微调以及参数高效微调方法。
L2级是场景大模型，它面向具体的应用场景和任务流程。与垂域模型关注“知识领域”不同，场景模型更关注“使用方式”。例如，同一个医学垂域模型，可以进一步微调成面向患者的导诊问答模型、面向医生的病历辅助生成模型，或者面向科研人员的文献分析模型。它们共享相同的领域知识，但在输入输出格式、交互风格、任务目标上存在显著差异。
场景模型的构建通常是“最后一公里”工程。它需要结合具体的业务流程、用户画像和交互设计，往往涉及提示词工程、对话状态管理、工具调用、输出格式约束等工程化手段。场景模型的效果评估也应紧密围绕业务指标，而非单纯的模型生成质量。
混合专家模型（Mixture of Experts，MoE）是一种特殊的模型架构设计。传统稠密模型在处理每个输入时，所有参数都会参与计算；而MoE模型将网络中的某些层划分为多个独立的“专家”子网络，并在推理时通过一个门控机制动态选择部分专家进行计算。这意味着模型的总参数量可以非常大，但每个输入实际激活的参数只是其中的一部分。
MoE的优势在于训练和推理效率。在相同计算预算下，MoE可以拥有比稠密模型更大的总参数量，从而获得更强的表达能力。当任务到达时，门控网络会对输入进行判断，将其分配给最擅长处理该类型输入的专家。不同的输入可能激活不同的专家组合，这使得模型能够在不同任务间保持较好的专业分工。
MoE的训练也面临一些挑战。例如，门控机制可能导致负载不均衡——某些专家被过度使用，而另一些专家长期得不到训练。工程中通常需要引入负载均衡损失或其他约束机制来缓解这一问题。此外，MoE模型的分布式训练和推理部署也更为复杂，对基础设施提出了更高的要求。
上述概念并非彼此孤立，而是形成一个层次化的知识体系。大模型是总称，大语言模型、多模态模型和推理模型是从不同维度对大模型的划分：大语言模型关注语言能力，多模态模型关注跨模态感知，推理模型关注复杂推理。这三个维度可以交叉组合——例如，一个模型可以既是多模态的，又具备强化后的推理能力。
L0/L1/L2则描述了模型从通用基础到专用场景的适配路径。基础大模型是L0，可以在其上进行垂域适配得到L1，再进一步面向场景优化得到L2。MoE则是一种具体的架构技术，可以应用于上述任何一个层级的模型之中，用以在参数量与计算效率之间取得更好的平衡。
理解这些概念及其相互关系，有助于学习者在面对具体技术选型和架构设计时，做出更加理性的判断。无论是选择基础模型作为起点，还是在垂域和场景层面进行深度定制，都需要建立在对模型能力边界和工程成本的清晰认知之上。