1. 问题与动机
生成式推荐(GR)近年来成为工业推荐的重要范式,通过语义 ID(SID)压缩编解码空间、利用 Next Token Prediction(NTP)框架探索 scaling law。然而,现有 GR 方法均面向单一业务设计,在美团这类多业务平台(外卖、到店、医疗等 4 条业务线)部署时暴露出两个核心缺陷:(1) 跷跷板效应——NTP 框架无法捕捉跨业务行为模式的复杂依赖关系,导致优化一个业务时另一个业务性能下降;(2) 表征混淆——统一的 SID 空间使不同业务的语义信息在梯度优化过程中发生耦合,无法区分跨业务差异。这两个问题在小业务线上尤为严重——占比仅 9.56% 的 B 业务在传统方法下的 Hit@10 仅为大业务的 46%。
2. 方法详解
MBGR 框架包含三个核心模块:
Business-aware Semantic ID (BID) 模块:通过编码器-解码器结构将业务上下文注入 token 表征。编码器将 token embedding \in \mathbb{R}^{K \cdot d_t}$ 与业务 embedding $ 拼接后经 FFN 和门控融合( = \sigma( ext{FFN}_{gate}([e_i, b_i]))),产生业务感知的 item 表征。解码器采用镜像结构还原 token embedding,通过重构损失 {recon} = rac{1}{K} \sum_k \|T_u^{(k)} - \hat{T}_u^{(k)}\|_2^2$ 确保语义信息最小损失。关键设计:业务 embedding 在编解码两端均参与拼接,确保业务上下文贯穿表征学习全过程。
Multi-Business Prediction (MBP) 模块:采用参数共享的 Mixture-of-Experts 架构。对每个 item 表征和业务 embedding 的拼接向量 ^b = [e, b] 产生 K 个专家权重,最终输出 ^b = \sum_k g_k^b \cdot ext{FFN}_k^{exp}(z^b)$。所有业务共享 K=8 个 expert FFN,仅门控网络按业务特化,平衡知识共享与业务特异性。
Label Dynamic Routing (LDR) 模块:解决多业务场景下标签稀疏问题。对序列中每个位置 $ 和每个业务 ,其中 ' = \min\{t'' > t | b_{u,t''} = b_k\}$。将原本每个位置约 1 个有效标签扩展为最多 4 个(等于业务数),显著增强梯度信号。
训练使用 InfoNCE 损失(含业务权重 $ 和时间衰减 = \exp(-lpha \cdot (t_{last} - t))$)加重构损失。训练数据:3830 万用户、5490 万商户、1 年历史数据。架构:16 层 Transformer、8 头注意力、128 维 embedding、最大序列长度 1500。硬件:NVIDIA A100-80GB,优化器 Adam(lr=0.001),batch size 1024。
3. 核心技术贡献
贡献 1:业务感知语义 ID 与重构损失。BID 模块通过在编解码两端注入业务 embedding,将统一的 SID 空间分化为业务感知的表征空间。重构损失确保分化过程不丢失核心语义信息。消融实验显示去除 BID 后整体性能下降 18.3%,验证了表征混淆是多业务 GR 的真实瓶颈。
贡献 2:参数共享 MoE 实现单次前传多业务预测。与为每个业务部署独立模型不同,MBP 通过共享 expert + 业务特化 gate 在一次前传中完成所有业务的预测。去除 MBP 后性能下降 19.5%,其中 B 业务(最小)下降最为显著(-27.6%),说明跨业务知识共享对小业务的增益最大。
贡献 3:标签动态路由解决稀疏标签问题。LDR 是对整体性能贡献最大的模块——去除后性能下降 34.6%。小业务 B 的下降尤为剧烈(-43.7%),因为其本身交互数据稀疏,密集化标签带来的边际收益最大。这一发现揭示了多业务推荐的核心挑战不在于模型架构,而在于训练信号的稀疏性。
4. 实验结果分析
在生成式 Hit@10 指标上,HSTU-MBGR 相较 HSTU 基线提升 91.6%(0.0214 → 0.0410)。最显著的提升出现在小业务:B 业务从 0.0127 提升到 0.0554(+336%),C 业务从 0.0198 提升到 0.0398(+101%)。下游 CTCVR GAUC 上,MBGR 整体提升 3.8%(0.7748 → 0.8040),B 业务提升 8.7%。
消融实验揭示各模块贡献排序:LDR > MBP > BID(分别贡献 34.6%、19.5%、18.3%)。超参分析显示:(1) 时间衰减 α=0.05 最优,过大会丢失历史信号;(2) 业务权重需按业务规模反向调整(B 业务权重 1.5,A 业务权重 0.9);(3) Expert 数 K=8 最优,更多 expert 边际收益递减。
在线 A/B 测试(30% 美团线上流量,1 周):加权平均 CTCVR 提升 +3.98%,其中 B 业务 +7.5%、C 业务 +4.5%、D 业务 +5.2%、A 业务 +3.0%(p < 0.01)。
5. 局限与未来方向
论文未显式列出局限性,但存在以下隐含限制:(1) 损失函数中 超参(平衡预测与重构)的设置方法未说明;(2) 仅在 4 个业务上验证,业务数量进一步扩展时 MoE 的 expert 分配策略是否需要调整尚不清楚;(3) 缺少在线推理延迟和内存开销的定量分析;(4) 未与其他多业务方案(如 M3OE、PLE 等)进行对比。未来方向可能包括与 LLM 结合进行语义增强、跨业务冷启动优化等。
6. 工业实践意义
MBGR 的工业价值体现在三个层面:(1) 多业务平台的通用设计模式——BID + MBP + LDR 的组合为所有运营多条业务线的平台(电商多品类、社区多内容类型)提供了可复用的 GR 框架;(2) 小业务的差异化增益——B 业务 +7.5% CTCVR 的在线提升证明该框架能有效缓解「大业务挤压小业务」的马太效应;(3) 渐进式部署策略——美团选择将 MBGR 作为召回通道和排序特征增量接入(而非端到端替换),反映了工业界对 GR 系统稳定性风险的务实态度。
对于社区搜索场景,MBGR 的启发在于:当平台同时覆盖帖子、问答、评论等多种内容类型时,可以借鉴 BID 模块的思路——在共享的语义空间中引入内容类型感知的表征分化,避免不同内容类型的搜索排序模型互相干扰。LDR 的标签路由思路也可迁移到多场景联合训练中。