工业界粗排模型的设计逻辑与演进路径解析

什么是粗排模型？

粗排（Pre-ranking）是搜索与推荐系统多阶段级联架构中的关键一环，位于召回与精排之间。它的核心任务是在召回阶段返回的大量候选商品中，通过一个轻量且高效的模型，快速过滤掉明显不相关的物品，将候选集规模从十万级压缩到千级左右，从而为后续计算复杂度更高的精排模型减轻压力。

粗排模型的本质是一个“效率与效果折中”的产物。它必须在极短的计算预算内完成对大量物品的打分，同时又要尽可能保留精排所青睐的物品，避免优秀结果被过早淘汰。因此，粗排模型的设计，本质上是在回答两个问题：如何把模型做得足够快？如何在快的前提下，让排序结果更接近精排？

为什么粗排如此重要？

在工业级搜索与推荐场景中，候选商品数量动辄百万甚至更多。若将所有候选都送入精排模型，计算资源将无法承受。粗排的出现，正是为了解决这一问题。它承担着“漏斗收窄”的职责，是链路中承上启下的关键节点。

粗排的挑战在于，它既不能像召回那样过于粗放，也不能像精排那样消耗大量算力。它需要在极短时间内，从十万级候选中筛选出最有可能被用户点击或转化的千级物品。这个过程如果做得不好，会直接影响后续精排的输入质量，进而影响整体排序效果和用户体验。

从架构演进的视角来看，粗排模型的设计目标始终围绕一个核心：如何在有限的资源约束下，最大化保留精排所认可的排序次序。然而，粗排在链路中的这一特殊位置，也使其面临一个独特的两难困境——过度拟合精排可能导致系统僵化，而过分独立又可能使得粗排结果与精排脱节。

粗排模型的两大主流技术路线

当前工业界粗排模型的设计主要沿两条路线演进，分别是双塔结构和交叉结构。

一、双塔结构：极致的在线服务效率

双塔结构的代表性思路是：将用户侧特征和物品侧特征分别输入两个独立的深度神经网络，各自产出对应的嵌入向量（embedding），最终通过向量点积或余弦相似度计算用户与物品的匹配得分。

这种“塔式分离”的设计带来了显著的结构性优势：用户侧和物品侧的特征表征可以离线预计算并缓存，在线推理时只需快速检索和点积运算即可完成打分，极大降低了单次推理延迟。在百万级候选集场景下，这种效率优势是决定性的。

然而，双塔结构的短板同样明显。由于用户侧和物品侧特征在模型底层完全不交互，模型无法学习到用户与物品之间的细粒度交叉特征，例如“男性用户在夏季对运动鞋的偏好”这类涉及多维信息的联合表达。这种特征表达的局限性，使得双塔模型在精度上通常弱于具备交叉能力的深度交互模型，在排序精度要求较高的场景中容易被交叉结构路线超越。

二、交叉结构：精排能力的轻量级迁移

交叉结构的核心思想是，将精排模型所擅长的特征交叉和深度交互能力，通过模型压缩、结构优化与知识蒸馏等手段，适配到粗排这一算力受限的环节中。

具体而言，交叉结构通常采用简化的深度交互网络，在有限网络层数与单元数量的前提下，对用户和物品的特征进行拼接后输入统一网络进行处理，使特征在模型内部即可完成交互建模。这类设计的关键在于：

• 特征选择：只保留对排序贡献最大的关键特征，剔除噪声或重复信息；
• 网络结构压缩：减少层数或隐藏单元数，使模型规模适应粗排的算力约束；
• 知识蒸馏：将精排模型作为教师网络，通过输出分布的指导来训练轻量的学生模型。

通过上述手段，交叉结构的粗排模型能够在可接受的延迟预算内，获得较双塔模型显著更强的特征表达能力，从而更准确地模拟精排的排序逻辑。这一思路逐渐成为当前工业界粗排模型优化的重要方向。

粗排与精排的关系：对齐的代价与风险

近年来，粗排模型的训练和评估越来越强调与精排的“一致性”，例如以精排的排序结果作为监督信号，或使用AUC、排序一致性等指标来衡量粗排与精排的重合度。从直觉上讲，这种对齐思路是在确保粗排模型能够准确预测精排的偏好。

但这样做存在一个显著风险：样本选择偏差（SSB，Sample Selection Bias）。当粗排模型的训练数据直接沿用精排的曝光与点击数据时，训练样本实际上只覆盖了已通过前级过滤的物品集合，而这些物品本身已经经过了粗排的选择。由此带来的问题是，模型在训练阶段从未“见过”那些被过滤掉的物品，其预测行为在真实的全量候选空间上是偏置的，导致模型的泛化能力受限。

更需警惕的是，如果粗排长期过度拟合精排的排序结果，系统的反馈闭环会持续强化聚焦于热门物品的曝光机会，使新商品或长尾商品更难获得流量，形成“马太效应”，即强者愈强、弱者愈弱。最终，系统的探索能力和多样性供给被不断削弱，用户看到的内容趋于同质化。

因此，粗排模型的定位需要重新审视：粗排的核心使命未必是“精确复现精排”，而是从海量候选中高效筛选出一批相对优质的物品集合。对集合内部精确排序的要求，可以适度放松，交由精排去完成。这一定位转变，为粗排模型的训练目标和评价指标设计提供了更广阔的思路。

粗排模型的关键组成部分

不论采用何种结构路线，一个完整的工业级粗排模型通常包含以下几个关键组件：

• 特征工程模块：负责从用户画像、物品属性、上下文环境及历史行为序列中提取和构造有效特征。在粗排环节，特征的数量与复杂度需要严格控制，通常仅保留最核心的连续特征和ID类特征。
• 模型主体：即用于计算用户对物品偏好得分的骨干网络，可以是双塔结构、轻量级深度交互网络，或其他适配算力要求的映射函数。
• 在线服务框架：将模型部署于推理服务中，对接上游召回结果，在极短耗时内完成批量打分与排序。双塔结构的向量索引和近似近邻检索策略在此环节尤为重要。
• 训练与蒸馏流程：训练任务通常使用用户历史行为日志作为监督信号，并可选地引入精排打分结果作为辅助蒸馏信号，使模型在保持自身结构特点的同时学习精排的排序偏好。
• 评估体系：除了离线指标如AUC之外，线上评估往往还采用粗排结果与精排结果的重合度（如TopK命中率）作为辅助指标，以衡量粗排是否有效保留了精排所需的关键候选。

典型应用场景

粗排模型在两类场景中应用最为典型：

一是电商搜索。用户搜索词命中大量相关商品，引擎必须首先召回数万级候选，再进入粗排环节快速过滤至千级，粗排决定了哪些商品有机会进入后续精排的视野，直接影响最终的成交转化率。

二是信息流推荐。推荐系统通常依赖多路召回策略，如基于用户行为的向量召回、语义召回、热门召回等，各路合并后可产生数十万候选。粗排在此承担统一的排序压缩职责，以统一的打分口径在同一量纲下比较来自不同召回路的结果，从而为精排提供更加聚焦的候选空间。

此外，在一些实时性要求极高的内容分发场景中，粗排甚至充当了最终排序的角色，即在算力限制下直接用粗排结果进行最终展示，这时候粗排模型的精度重要性会被提升到更高等级。

粗排与精排、召回的区别

模块	主要目标	候选规模	模型复杂度	在线耗时预算
召回	尽可能覆盖所有相关物品	百万级	较低（向量检索）	毫秒级
粗排	快速筛出优质候选集	十万到千级	中等（轻量模型）	低延迟要求
精排	对有限候选精确排序	千级到百级	高（深度交互模型）	相对宽松

召回关注的是“相关性”，它的目标是不要漏掉任何可能相关的物品，容忍大量不精准的结果存在。粗排关注的是“效率前提下的相关性”，需要在快的同时，把明显不相关的物品过滤掉。精排则关注“最优排序”，聚焦于极小集合上的精准排序，模型复杂度可以很高。

三者在特征使用、模型结构与在线服务架构上均有本质差异。粗排模型的设计难点，恰恰在于它处于“召回的相关性”与“精排的精准度”之间的中间地带，既要兼顾召回的输出分布，又要承接精排的排序语义。

使用与优化注意事项

在实际设计粗排模型时，以下几个问题需要特别关注：

• 训练数据构建。应尽量避免直接使用精排的曝光点击数据，可考虑引入召回阶段的未曝光样本或粗排自身上一阶段的输出作为负样本，以缓解SSB问题。更好的做法是构建与线上分布一致的训练样本，保证模型训练与预测分布的一致性。
• 目标函数设定。除了传统点击率预测之外，粗排模型还可引入与精排结果的对齐损失，例如以精排后物品的顺序作为学习目标，使用排序学习（Learning to Rank）框架进行训练。
• 多目标融合。当粗排同时服务多类业务（如混合推荐、搜索结果与广告混排等）时，需考虑多目标的加权融合策略，在产品目标和用户体验目标之间取得平衡。
• 模型结构轻量化。无论采用双塔还是交叉结构，模型的参数量和计算开销都必须与线上延迟预算相匹配。可通过量化、剪枝、蒸馏等手段进一步压缩模型体积。
• 监控与回退机制。由于粗排直接决定候选集内容，一旦模型出现离线指标与线上效果不一致的情况，需要具备完善的监控告警和模型快速回退机制，保障系统稳定性。

总结

粗排模型是搜索与推荐系统中不可缺失的效率组件，其核心使命是在有限算力条件下，从大规模候选中高效筛选出优质物品集合，为精排创造良好的输入条件。在模型结构上，双塔与交叉结构各有优劣，前者擅长在线效率，后者长于特征表达。而在整体目标设定上，粗排需要谨慎处理与精排的对齐关系，避免因过度拟合导致样本偏差和马太效应。合理的粗排设计，应当是一个兼顾效率、效果、多样性与可供探索空间的中庸之道。

对于技术团队而言，理解粗排的定位与边界，并将其从“精排的影子”中解放出来，往往能够带来更为长远的系统收益。粗排本质上是整个链路的守门员，它决定了一个候选是否有资格进入更精细的排序阶段。守好这道门，比在门内精雕细琢更为关键。