RGCD-Rep 深度解读：用 MLLM 推理把短视频兴趣迁移到直播冷启

1. 问题与动机

快手要解决的是直播推荐的稀疏与冷启问题。论文给出明确量化对比：短视频域人均 224.93 次交互，直播域人均仅 20.78 次；数据量上短视频 2463.5 万次交互（10.95 万用户、378.7 万 item），直播只有 227.6 万次（9.19 万 item），约为短视频的 9.2%。更棘手的是高价值行为（关注 follow、虚拟礼物 gifting）极度稀疏，测试集里 14.65% 的用户完全没有直播历史，尾部 item 占 50% 的 item 却只贡献 10.90% 的交互。已有多模态跨域方法依赖静态特征、缺乏对多模态内容的深层语义推理，无法解释"为什么两个域的 item 在行为上可迁移"，导致迁移信号不可靠、易引入负迁移。RGCD-Rep 的出发点是：把"可迁移性"这件事显式地交给大 MLLM 去推理判断，而不是让模型隐式地从稀疏行为里猜。

2. 方法详解

RGCD-Rep 分两阶段。阶段一 推理感知蒸馏（Reasoning-Aware Distillation）：用一个冻结的 35B Qwen3.6 MLLM 作 teacher，对从同一时间窗用户日志构造的"行为-协同对"(sᵢ, lᵢ) 生成结构化推理。迁移强度 bᵢ 由行为共现频率与行为强度（视频侧看时长/完播率/点赞/评论/分享，直播侧看时长/送礼/关注/点赞）算出。teacher 把每个 item 沿三个语义维度 K={垂类 vertical, 关键主体 key subject, 内容话题 content topic} 拆解，每个维度输出语义标签+证据描述+对级匹配 mᵢᵏ∈{0,1}，并得语义迁移分 rᵢ=(1/|K|)Σmᵢᵏ。这些对级推理再拆成 item 级样本（让任意单个视频/直播都能被独立编码），蒸馏进一个轻量 2B Qwen2-VL student：student 用 16 个可学习的 chorus tokens 聚合多模态语义，输出隐状态 Hₓ∈ℝ^(16×d)，训练目标是标准 NTP（next-token prediction）让 student 复现 teacher 的结构化推理文本。这一步的关键是把 35B 的推理能力压到 2B，既保住推理质量又能上线。

阶段二 迁移性引导的跨域表征学习：双域共享同一 student MLLM 编码器映射到统一语义空间。用两个可学习 query 向量从 chorus tokens 抽取双视图——可迁移视图 z^T 与域残差视图 z^R，均为 α=softmax(Hₓq/√d) 加权聚合后做 Norm。跨域对比损失 L_con=½(L_{s→l}+L_{l→s})，把行为-协同对作正样本、batch 内未匹配 item 作负样本，余弦相似度、温度 τ=0.05。为防负迁移，引入迁移路由：按 qᵢ=bᵢ+rᵢ（行为+语义迁移性）排序，Top 20% 设为高纯度对 π=1、Bottom 20% 低纯度 π=0，中间丢弃；路由概率 P_T=σ(γ(s_T−s_R))（γ=10，s_T/s_R 分别是对在可迁移/残差空间的相似度），路由损失 L_route=−mean[π·logP_T+(1−π)·log(1−P_T)] 把高纯度对推向可迁移空间、低纯度对推向残差空间。总目标 L_stage2=L_con+0.05·L_route。最终可迁移表征 z^T（1536 维）对全量 item 离线预计算并建近邻索引，serving 阶段只查索引、零 MLLM 推理。训练用 8 张 H800，LoRA rank=32，阶段一 batch 8 / lr 1e-4 / 6 万样本，阶段二 batch 64 / lr 1e-4 / 25 万样本。

3. 核心技术贡献

(1) 首个把大 MLLM 推理引入跨域推荐（CDR）的工作，且推理带显式迁移性判断，而非泛化的内容描述。(2) 推理感知蒸馏：把 35B teacher 的链式推理沿三语义维度拆解后蒸到 2B student，兼顾推理质量与可部署性。(3) 行为接地（behavior-grounded）框架：监督信号同时来自真实行为共现与语义推理，抑制 MLLM 产生与任务无关的解读。(4) 可迁移-残差解耦 + 路由：显式区分跨域共享信号与域特有信号，并用 Top/Bottom 20% 硬路由防负迁移——消融显示这是性能主力。

4. 实验结果分析

离线 HR@10 / NDCG@10：最强基线 UniEmbedding 为 0.0216 / 0.0097，RGCD-Rep 达 0.0254 / 0.0127，分别 +17.59% / +30.93%；其余基线 FREEDOM(0.0040/0.0018)、SMORE(0.0089/0.0032) 差距更大。消融最有说服力：去掉阶段二 HR 暴跌到 0.0101（约 −60%），去掉阶段二的 MLLM 微调降到 0.0189（−26%），而去掉阶段一只掉到 0.0249（约 −2%）——说明跨域表征学习（阶段二）是主力，蒸馏（阶段一）是锦上添花。尾部 item 与冷启用户（14.65%）上增益更明显，印证兴趣迁移对稀疏侧的价值。线上一周 A/B（快手主站/极速版双端）：曝光 +0.37%/+0.38%，点击 +0.34%/+0.13%，有效进房 +0.28%/+0.22%，关注 follow +0.83%/+0.93%——follow 提升最大，正好对应"帮用户发现冷启主播"这一目标，也说明迁移来的是真实兴趣信号而非曝光偏置。

5. 局限与未来方向

作者未单列局限。可观察到的约束：训练成本不低（8×H800，虽然部署轻量）；高度依赖高质量行为-协同对，对极稀疏域效果未知；只验证了短视频→直播的单向迁移，反向未探索；三个固定语义维度（垂类/主体/话题）未必适配所有内容类型，跨品类泛化待验证。

6. 工业实践意义

最值得借鉴的是落地姿势：teacher 推理→蒸馏到小 student→阶段二对全量 item 离线算 1536 维表征→建近邻索引，serving 端零大模型推理，已在快手服务日活 4 亿+，召回（matching）阶段用跨域近邻索引、亚毫秒级查表。这套范式对任何想用 MLLM 做表征但卡在线上延迟的团队都适用。对社区搜索，"主帖/长内容富行为域 → 问答/评论稀疏冷启域"的兴趣迁移可直接套用可迁移-残差解耦 + 路由防负迁移的设计；行为接地（用真实共现+强度构造监督，而非纯让 LLM 描述内容）也比纯语义匹配更稳，能抑制大模型的任务无关幻觉。需要注意迁移路由的 Top/Bottom 20% 硬切分、温度 τ=0.05、γ=10、λ_route=0.05 等超参需按业务重调，且离线预存 1536 维全量 item 表征对存储与索引更新链路有要求。