1. 问题与动机

生成式推荐（Generative Recommendation, GR）将推荐建模为序列生成任务，通过自回归解码 Semantic ID 来生成推荐 item。然而，现有自回归方法存在三个根本性缺陷：（1）全局依赖建模不足——自回归解码仅依赖左侧上下文，无法联合捕获多维特征之间的全局依赖；（2）固定解码顺序假设不合理——所有用户统一采用从左到右的解码顺序，但实际中不同用户关注 item 属性的优先级不同；（3）推理效率低下——顺序生成的复杂度为 O(B·H·L³·d)，难以满足在线推荐的实时性要求。虽然单步并行解码可改善全局一致性，但忽略了局部属性间更细粒度的约束关系。这些问题在大规模工业场景（如 1800 万用户、2500 万 item、10 亿月交互量的东南亚电商平台）中尤为突出。

2. 方法详解

MDGR 从码本、训练、推理三个层面重塑生成式推荐管线：

并行码本（Parallel Codebook）：采用基于 OPQ（Optimized Product Quantization）的并行码本替代传统残差量化（RQ-VAE）。将 item embedding 投影到 L=8 个独立子空间，每个子空间维护独立的码本（300 词表×256 维），通过最近邻量化得到 8 个独立的 token。关键优势在于各位置独立无层级约束，支持双向注意力和任意位置的掩码操作。

自适应掩码训练策略：包含时间维度和样本维度两层自适应。时间维度采用课程学习噪声调度：归一化训练进度 τ=min(1, n/N)，通过余弦调度加幂变换计算难度标量 δ，训练初期少量掩码（简单任务），逐步增加掩码数量。γ=2.0 为最优课程速度超参。样本维度引入基于用户历史的掩码位置分配：统计目标 item 每个位置 token 在用户历史中的出现频率，对低频（罕见）token 赋予更高掩码权重 w=1/(f+ε)，使模型更多关注困难预测位置。此外，引入可学习的难度 embedding 表 D∈ℝ^(L×D)，根据掩码数量 k 索引并添加到所有 token embedding 上，使解码器感知当前噪声水平。

Warm-up 两阶段并行解码：第一阶段（R_warm=4 步）每步解码一个位置，选择模型置信度最高的未填充位置，稳定关键语义锚点。第二阶段切换到并行解码，每步同时解码 m_par=2 个位置。结合 beam search（beam width=50），在每个位置保留 Top-B 候选 token，联合展开所有位置生成 B^m 个候选序列，按累计对数概率选择 Top-B。总步数 R=R_warm+(L-R_warm)/m_par ≈ 6 步，远少于自回归的 L=8 步。

训练目标为掩码位置的交叉熵损失。模型架构使用 6 层 Transformer encoder（256 隐藏维、8 注意力头）编码用户历史，decoder 使用双向自注意力。item 内容 embedding 由预训练 Qwen3-8B 模型生成。训练使用 2 个参数服务器 + 10 个 worker，每个 worker 配备 1 块 Nvidia A100 GPU。

3. 核心技术贡献

贡献一：将 masked diffusion 引入生成式推荐。 不同于自回归和单步并行方法，MDGR 通过迭代掩码-去噪过程生成推荐，每步都能利用双向上下文。这从根本上解决了自回归方法的单向依赖限制，同时比单步并行保留了更多局部约束信息。相比 TIGER（自回归基线），MDGR 在工业数据集上 Recall@5 从 0.1647 提升至 0.1856（+12.7%）。

贡献二：推荐场景感知的课程学习噪声调度。 与通用 masked diffusion 模型不同，MDGR 将用户行为历史中的 token 频率信息融入掩码分配，使训练监督信号聚焦于困难预测。消融实验显示：去除自适应掩码量采样（uniform）降低 1.35%，去除历史感知位置分配（random）降低 1.83%，两者同时去除降低 3.45%。

贡献三：Warm-up 两阶段解码策略。 通过先稳定高置信度位置的语义锚点，再并行填充剩余位置，在速度和质量之间取得平衡。R_warm=4 配置在保持 Recall@10 仅微降 0.04% 的情况下提升 QPS 14.24%。

贡献四：OPQ 并行码本为扩散过程提供结构基础。 相比残差量化（RQ-VAE），并行码本的各位置独立性天然适配双向掩码操作。消融显示 OPQ 比 RQ-VAE 高 1.46%、比 RQ-KMeans 高 1.40%。

4. 实验结果分析

公开数据集对比（Amazon Electronics/Books）：MDGR 在所有指标上超越 10 个基线。在 Electronics 数据集上，Recall@5 达 0.0394（vs RPG 0.0357, +10.4%），NDCG@10 达 0.0367（vs RPG 0.0339, +8.3%）。在 Books 数据集上同样保持 8-9% 的优势。值得注意的是，MDGR 不仅超越所有生成式方法（TIGER、Cobra、RPG），也全面超越判别式方法（SASRec、BERT4Rec 等）。

工业数据集（10 亿交互量）：Recall@5 达 0.1856（vs RPG 0.1679, +10.5%），规模化场景下优势更显著。

消融分析：并行码本 > 课程噪声 > 历史感知掩码 > 难度 embedding > 置信度引导解码，每个组件贡献 1-3.5%，说明各模块设计都有实质贡献。γ 超参敏感性分析显示 γ=2.0 最优，过小（0.5）课程过于激进，过大（3.0）学习过于保守。

在线 A/B 测试（2026.1.5-1.12，东南亚电商广告平台）：对照组为 TIGER，实验组为 MDGR，各 20% 用户流量。广告收入 +1.20%、GMV +3.69%、CTR +2.36%，p<0.05。GMV 提升最为显著，说明 MDGR 生成的推荐不仅点击率更高，且转化质量也更好。

效率分析：基线 QPS 2.212，R_warm=4+m_par=2 配置达 2.527 QPS（+14.24%）。极端配置（无 warm-up+m_par=2）可达 3.015 QPS（+36.3%），但 Recall@10 下降 4.15%。

5. 局限与未来方向

论文未设置专门的局限性章节，但从实验和分析中可识别以下限制：（1）超参数敏感——R_warm、m_par、γ 的选择对性能影响较大，需要针对具体场景调优；（2）纯并行解码性能不佳——去除 warm-up 后 Recall 下降 4.15%，说明扩散模型在推荐场景中仍需依赖「先锚定再扩展」的策略；（3）beam width 依赖——beam=50 的设置在生产中可能带来显存和延迟压力；（4）码本构建依赖预训练 LLM——使用 Qwen3-8B 生成 item embedding，引入额外依赖。作者也提到 DiffuGR、LLaDA-rec 等并发工作采用了类似的扩散思路但「适配性较弱」，未来如何设计更原生的推荐场景扩散模型仍是开放问题。

6. 工业实践意义

可直接借鉴的设计：（1）OPQ 并行码本是生成式推荐码本选择的强基线，相比 RQ-VAE 实现简单且效果更好；（2）基于用户历史频率的自适应掩码策略是「困难样本挖掘」在生成式推荐中的自然延伸，迁移成本低。（3）Warm-up 两阶段解码提供了「质量-速度」旋钮，可根据场景需求灵活调节。

线上指标分析：GMV +3.69% 是三个指标中提升最大的，显著高于 CTR +2.36% 和收入 +1.20%。这说明 MDGR 的双向全局建模帮助模型更好理解用户的购买意图而非仅点击意图，对电商场景有独特价值。

部署考量：（1）延迟方面，QPS 2.527 仍偏低，生产中可能需要结合模型蒸馏或量化进一步加速；（2）beam width=50 的显存占用在大 batch 场景中需要关注；（3）码本构建为离线一次性操作，但码本索引到 item 的映射需要维护更新策略。（4）分布式训练需 12 台 A100 机器，中型团队可承受。

对搜索排序的启示：在 UGC 短文本搜索场景中，用户查询意图的多样性与 MDGR 解决的「不同用户关注不同属性顺序」问题高度类似。可以考虑将并行码本 + 掩码扩散的思路应用于查询-文档匹配的生成式检索，允许模型从不同维度同时建模匹配信号。