Recommendation as Generation (RaG) 深度解读

1. 问题与动机

传统短视频推荐是“检索范式”：用户兴趣只能匹配到一个固定的、已生产好的视频池，无法表达细粒度、动态变化的偏好——想看“赛博朋克风格的猫”但池子里没有，就只能退而给近似项。RaG 把问题重述为“生成范式”：直接按推断出的用户兴趣实时生成个性化视频。动机有两点：(1) 固定视频供给是推荐的天花板，生成式可突破供给侧约束；(2) 生成式推荐（GR）已用语义 ID 把 item 表示为离散 token 序列，与视频生成模型天然共享“离散 token→内容”的接口，因此可以把“推荐”和“视频生成”统一在同一套 SID 上。论文同时点明现有 SOTA 视频生成模型虽视觉质量高，但高延迟、高算力成本使其难以直接放进大规模推荐系统——这正是 RaG 要化解的工程张力，也决定了它当前只能 nearline 服务。

2. 方法详解

RaG 的主链路是 “用户上下文 → 预测语义 ID → 生成个性化视频”，由四个部件组成。
(a) 解耦语义 ID（D-SIDs）。不同于把视频量化成单一码本，RaG 用指令引导的多模态表征学习（backbone 为 Qwen2.5-VL-7B-Instruct）把视频拆成两类因子：content（实体/主题/语义内容）与 creative（风格/节奏/氛围），再用 RQ-KMeans 残差量化成离散 token，每个模态每层码本 8192 项。解耦让“兴趣建模”和“可控生成”各取所需的语义维度。
(b) 生成式推荐模型（GRM）。一个 7 层 Transformer decoder（hidden 768、词表 8192），自回归预测目标视频的 D-SIDs——即“推荐”这一步在 SID 空间里完成。
(c) 视频生成 Agent（VGAs）。三个共享同一 Qwen2.5-32B backbone 的角色子 Agent：视觉规划 Agent 产出 clip 级分镜（场景片段 + 时间边界）、音频对齐 Agent 生成时间同步的语音与音乐、特效增强 Agent 加字幕/视觉特效/转场/CTA。它们被推断出的 SID 条件化，做分层规划与精修；通过 KV-cache 复用（append-only 状态）在顺序调用的 Agent 之间降低单请求延迟，并设两轮封顶的反思循环来精修跨模态一致性。
(d) 协同跨域奖励学习（SCRL）。三类奖励：视频质量（视觉质量、音画一致、特效-画面对齐）、兴趣对齐（指令级 + 表征级一致）、用户反馈（稀疏真实交互 + 稠密 ranking 模型预测）。它被建成约束优化：用户反馈为主目标，兴趣对齐与视频质量为约束；GDPO（Group-Decoupled Policy Optimization）对每个奖励做标准化与组内相对优势，解决多奖励尺度不一致。指令模型（IM）用 Qwen3-8B，由 Gemini2.5 Pro 蒸馏指令模板监督。

3. 核心技术贡献

1) 把“推荐即生成”落到工业级：用共享 SID 把 GR 与视频生成统一，GRM 在 SID 空间出“推荐”，VGA 据此生成视频，形成端到端可优化框架，而不是把推荐和生成当两个割裂系统拼接。
2) 解耦语义 ID（D-SIDs）：content/creative 双码本把表示空间结构化，相比单码本既降碰撞又提兴趣粒度——消融显示把标准 SID 换成 D-SIDs，广告收入相对 DLRM 从 +3.526% 提到 +4.460%。
3) 角色化 VGA + KV-cache 复用 + 有界反思：用一个 32B backbone 扮演三种角色，避免三套模型的部署成本，反思两轮即获得相对刚性 workflow 的稳定增益，是“Agent 化生成但控住延迟”的折中。
4) SCRL/GDPO：把“稀疏真实反馈做主目标、质量与对齐做约束”的约束优化与组解耦策略优化结合，缓解多奖励尺度不一致，这是把 RLHF 思路迁移到多模态生成式推荐的关键一招。

4. 实验结果分析

线上 A/B（快手广告平台，超 4 亿日活）：相对 DLRM 基线，GRM 基线 +3.526%、GRM+D-SIDs +4.460%、完整 RaG +5.462% 广告收入；完整 RaG 相对 GRM 基线再 +1.870%，说明增量主要来自 VGA + SCRL 而不仅是换 SID。
D-SIDs 质量（Table 2）：语义检索 R@1 0.896（相对 Qwen2.5-VL-7B 基线 0.769 提升 +16.5%）、R@5 0.985、R@10 0.994；压缩率 1.02（优于 QARM 的 1.14），碰撞率 2.62%（QARM 18.24%，降 15.6pp）——碰撞率大降是双码本结构化的直接收益，也是后续生成可控的基础。
VGA 对比 workflow 基线（Table 3）：自动评分 71.3（+14.3%）、自动胜率 70.1%（+41.4pp）、用户研究胜率 52.9%（+18.5pp）。
奖励消融（Table 4）：单独视觉奖励把自动胜率 29.3%→50.7%（+21.4pp），音频 24.0%→48.0%（+24.0pp），特效 22.7%→41.3%（+18.6pp），三者合并 37.3%→56.0%（+18.7pp）；兴趣对齐奖励把对齐分 0.707→0.828（+17.1%）。三类质量奖励互补、各自独立有效。
指令模型配置消融：从 8B/100K 样本的 0.7760 提升到 32B/1M 的 0.8212；最终选 8B + 1M 样本，在解码保真与部署成本间折中。反思循环（2 轮）优于刚性 workflow，体现分层端到端带来的自我纠错收益。

5. 局限与未来方向

作者在结论中明确的核心局限：RaG 目前是 nearline 服务而非实时，VGA 是主要延迟瓶颈。给出的未来方向：把指令模型并入 VGA 以缩短生成路径；用更强蒸馏与推理优化加速 VGA；最终走向真正的 on-the-fly 实时个性化生成。作者亦坦承基础设施约束：当前 SOTA 视频生成模型虽视觉质量强，但高延迟、高算力使其难以直接部署进大规模推荐系统。未明说但显然的局限：评测高度依赖快手广告内部数据与自动评分/人评（1000 实例、20 名标注者做 1000 对比较），跨平台与公开可复现性有限；广告收入增益与内容生态健康、用户长期体验之间的关系也未充分讨论。

6. 工业实践意义

对搜索/推荐团队的可操作启示：

• 最先可借鉴的是 D-SIDs 的“解耦量化”：把内容与风格（迁到搜索即 query 意图与表达风格）拆成双码本，碰撞率从 18.24% 降到 2.62%，对任何使用 SID 的生成式召回/排序都有价值，而且不依赖视频生成即可落地。
• SCRL/GDPO 的“主目标 + 约束”多奖励范式可迁到多目标排序/对齐：把核心业务指标设为主目标、把相关性/质量设为约束，再用组解耦标准化解决奖励尺度不一致，比简单加权更稳。
• VGA 的“单 backbone 多角色 + KV-cache 复用 + 有界反思”是控制 Agent 化生成延迟的实用工程模式，值得做生成式问答/卡片生成的团队参考。
• 部署上要清醒：完整 RaG 因 VGA 延迟只能 nearline，需要数亿日活级别的算力支撑；中小团队应先取 D-SIDs 与奖励建模思路，端到端实时视频生成短期内并不现实。整体看，这是“生成式推荐从召回 token 走向直接生成内容”的一个工业级样本，但其 ROI 高度依赖平台规模与算力预算。