1. 问题与动机
在现代多阶段推荐系统中,重排(reranking)通过建模候选列表的上下文信息来优化最终展示顺序。生成式重排方法已成为主流趋势,但现有方法存在三个根本缺陷:(1) 自回归方法(如 PRM、GRN)按从左到右的顺序逐个生成 item,无法利用未来上下文信息,计算开销大且生成结果次优;(2) 一步生成方法(如 NAR4Rec)生成粒度过粗,缺乏对局部排列关系的精细建模能力;(3) 多步生成方法(如 DCDR、NLGR)容易陷入排列空间的局部最优,因为排列空间的目标函数是非单调的——相邻排列之间的评估值差异并不随距离单调变化。更深层的问题是生成器与评估器的目标不一致:生成器试图在组合空间中找到最优列表,而评估器则被训练来估计列表级别的分数,两者之间的指导信号存在 gap。美团外卖的推荐场景涉及数千万商品和数亿用户交互记录,A_20^20 = 2.43×10^18 的排列空间使得穷举评估不可行,迫切需要一种兼顾全局与局部视角、同时保证生成效率的新范式。
2. 方法详解
NSGR 由两个核心组件构成:多尺度评估器(MSE)和下一尺度生成器(NSG),通过树状结构实现从粗粒度到细粒度的渐进式列表生成。
多尺度评估器(MSE):首先通过层次化序列转换单元 HSTU 提取全局用户兴趣向量 e_u = AvgPool(HSTU(H_u)),然后通过 MLP 特征交叉增强候选 item 的语义表示。关键创新是在 K = log_2(m) 个尺度上计算多尺度上下文——在每个尺度上通过 self-attention 捕获不同粒度的列表内上下文关系。最终 CTR 预测整合了语义信息、多尺度上下文和位置信息,列表整体价值为 y_L = sum(y_t)。训练损失为标准二元交叉熵。
下一尺度生成器(NSG):采用"一生二、二生四"的二叉树递归分裂策略。每个分裂步骤包含五个关键机制:(1) Item 优先级打分 p_i = MLP(x_i^s),为每个 item 计算独立的相关性分数;(2) 成对关系建模,通过 softmax 分类器将 item 对关系分为竞争抑制、互补增强和中性共存三类;(3) 非对称影响权重计算 w_ij = -r_ij^sup · ReLU(p_i - p_j) + r_ij^enh · (p_i + p_j)/2,其中竞争关系是非对称的(高优先级 item 抑制低优先级 item),互补关系是对称的;(4) 集合条件细化,基于成对交互和子集上下文对每个 item 表示进行精炼;(5) Item-to-Tree 注意力打分,生成锚向量捕获全局集合视角,计算 item 与目标子集的相关性分数,按分数排序后进行二叉分裂。
训练策略:提出多尺度邻域损失(MSNL),在每个尺度上计算生成列表与邻域列表之间的相对奖励,通过对比学习优化生成器。损失函数利用树对齐的多尺度向量,结合温度缩放的点积计算,对正样本(奖励大于1)和负样本(奖励小于1)进行对比。
3. 核心技术贡献
(1) 树状多尺度生成范式:将重排建模为递归二叉树分裂过程,统一了局部和全局视角。与自回归方法的 O(m) 步生成不同,树状结构仅需 O(log m) 步即可完成生成,每一步都在当前尺度上做出全局最优的二分决策。这一设计有效避免了多步生成方法的局部最优陷阱,因为每次分裂都考虑了子集内所有 item 的相对关系。
(2) 非对称成对关系建模:区分竞争抑制(非对称)和互补增强(对称)两种关系模式。竞争场景下,高优先级 item 对低优先级 item 有单向抑制作用(如同品类的高评分商品压制低评分商品);互补场景下,两个 item 的共同出现是对称增益的(如主菜与饮品的搭配推荐)。
(3) 多尺度评估-生成协同训练:MSE 在 log_2(m) 个尺度上提供梯度信号,MSNL 在每个尺度上通过邻域对比学习引导 NSG 的分裂决策,实现评估器与生成器的深度对齐。相比单一尺度的评估反馈,这种多尺度监督使生成器在不同粒度上都能获得有效的优化方向。
4. 实验结果分析
离线实验在淘宝广告数据集(114 万用户、2655 万记录)和美团数据集(568 万用户、2.43 亿记录)上与 6 种基线方法对比。在美团数据上,NSGR 的 AUC 达到 0.8902(vs YOLOR 的 0.8749,+0.0153),GAUC 达到 0.8829(+0.0160),领先幅度远超其他方法。在生成器一致性指标 Hit Ratio 上,NSGR 在 A_20^20 空间的 HR@1% 达到 0.861(vs YOLOR 0.822),HR@10% 达到 0.987,表明生成器与评估器的高度对齐。
消融实验显示:移除语义 ID(SID)后 AUC 从 0.8902 降至 0.8761,HR@1% 从 0.861 降至 0.834,证明 SID 对生成器的引导作用关键;移除 NSG 单元不影响 AUC(因 MSE 独立预测 CTR)但 HR@1% 大幅降至 0.796;移除 MSNL 后 HR@1% 降至 0.772,验证了多尺度邻域损失的有效性。
在线 A/B 测试(2025 年 8-10 月,8 周):NSGR(20)(20 候选重排)vs YOLOR(8) 基线,实现 CTR +2.89%、CVR +0.58%、GMV +3.15% 的显著提升,同时推理延迟反而降低 1.4ms。值得注意的是 NSGR(8) vs YOLOR(8) 出现了小幅负向(CTR -0.42%),说明 NSGR 的优势需要在较大候选集上才能充分发挥。
5. 局限与未来方向
论文未设置专门的局限性章节,但从实验结果可推断:(1) 在小候选集(m=8)场景下 NSGR 未展现优势,甚至略有负向,表明树状生成的优势需要足够大的排列空间才能显现;(2) 当前的二叉树分裂策略是固定的,未探索自适应分裂深度或非均匀分裂比例;(3) 成对关系的三分类(竞争/互补/中性)可能过于简化,未来可考虑更细粒度的关系建模。作者隐含提到排列空间非单调性仍是固有挑战,现有的邻域采样策略可能无法覆盖全局最优附近的关键区域。
6. 工业实践意义
NSGR 对搜索推荐从业者有三方面直接启示:(1) 重排候选集规模的重要性:在线实验中 NSGR(20) 远优于 NSGR(8),说明扩大重排阶段的候选集规模是释放生成式重排潜力的关键——这要求上游召回和粗排阶段提供更多高质量候选;(2) 延迟优化的可行性:NSGR 复用排序模型的用户嵌入和 item 特征,离线预计算用户表示,并利用树结构的上下文缓存减少重复计算,在美团场景中实现了延迟降低(-1.4ms),证明更复杂的重排模型不一定带来更高延迟;(3) 部署架构参考:基于 TensorFlow 1.15.0 + NVIDIA A100-80GB GPU 的实现方案,HSTU 预计算 + 实时树分裂推理的两阶段部署策略,为类似规模的搜索推荐系统提供了可复制的工程模板。对 UGC 社区搜索而言,帖子的上下文排列关系(如话题互补、内容竞争)同样重要,NSGR 的成对关系建模思路可直接迁移。