原文：https://arxiv.org/html/2610.15696 。分析依据正文第 3–7 节与实验表 1–3；生产结果为作者报告。
1. 问题与动机
Disney+ 旧首页由多个独立推荐模型分别承担不同区域和页面位置，使用相同的用户观看记录，却拥有各自的数据采样、训练及更新逻辑。部分模型偏向儿童热门内容和重复观看，另一些偏向泛娱乐或新热点；模型之间缺乏统一的用户认知，维护多套数据与预计算结果也增加成本。一个家庭 profile 还可能混合儿童与成人行为，只知道看过哪些片名不足以判断当前兴趣。
作者目标是构建一个全球在线排序模型，在既有资源和严格延迟预算内同时预测用户是否参与以及参与多久。论文没有假设更复杂的多任务头一定更好，而是逐步比较输入表征、注意力、去偏、任务头与数据构造。主要动机是让单一排序器形成跨地区、设备及时间的完整偏好表示，并降低无差别热门推荐。最终约 700 万参数的模型支撑实际大规模服务，说明贡献更多来自数据和设计取舍，而非模型规模纪录。
2. 方法详解
系统采用召回后排序：上游提供影片与剧集候选，DRanker 根据用户行为历史和会话上下文给每个候选打分。每日 ETL 从数月合格观看记录生成数亿训练样本，输出 Mosaic Data Shards；模型在一周内频繁重训，使用常规 GPU 实例。全文未公开批大小、优化器、学习率、确切训练步数或 GPU 型号，不能按常见配置擅自补全。
正样本先按观看时长过滤误触，再对每个 profile 与 title 只保留首次有效互动，移除续看和重看，因为首页目标是新内容发现。这一步减少超过 60% 的训练样本并改善指标。随后按片名类型、地区和设备等分层，避免大地区与热门标题占据训练集。负例从内容库随机采样；作者发现刻意挑选非常不相似的负例过于容易，曝光负例则在初始交付阶段需要昂贵日志联表。每条历史只能包含候选发生前的观看，明确防止时间泄漏。
每个历史 token 拼接由片名元数据得到的 LLM 文本嵌入、可学习内容 ID、设备 ID、周期编码时间与观看长度。双向自注意力 Transformer 使用相对位置偏置，把关系加到注意力分数上；输出经逐位置前馈、预归一化残差和平均池化得到历史表示。候选也结合文本与 ID 嵌入；再拼接完整历史平均表示、当前上下文等，送进共享 ReLU MLP。两条任务分支分别以二元交叉熵预测参与分数、以均方误差预测参与长度。因为随机负采样改变了样本分布，参与输出是排序分数，不是校准过的曝光点击概率。
轻量因果塔接候选嵌入与历史编码，学习热门和相关性两个辅助二元目标。热门且发生互动标记为 pop=1、rel=0；非热门且互动标记为 pop=0、rel=1；其余都为零。热门依据数月参与次数的高分位阈值定义。辅助损失使用固定权重，相关性权重较高，热门权重较低，两者和为 1。主任务读取因果表征时停止向辅助塔回传梯度，使主任务不能把去偏表征重新拉回热门方向；塔自身损失仍训练其表示。推理丢弃辅助预测输出，仅保留学得的嵌入作为主任务输入。
3. 核心技术贡献
第一，统一序列表征把内容语义、协同 ID、设备和时间放在同一序列上下文中。相对位置编码比其他位置方案更快学会前传与续集等关系，也适应同一 profile 在不同时段由不同家庭成员使用。它解决的是表示质量，而不只是增加一个复杂预测头。
第二，因果塔用已有行为次数生成两类辅助标签，额外参数低于总量的 5%，不依赖额外曝光数据源。梯度隔离是关键：热门物品确实容易有高参与度，若让主任务任意更新辅助塔，就可能重新把热门与偏好混在一起。不过标签本身仍是“非热门互动更像真实兴趣”的建模假设，不能将该塔解读为严格识别全部因果效应。
第三，作者将数据、定性行为检查和线上测试放在共同迭代流程中。简单共享 ReLU 头优于 PLE、DCN 和某些交叉注意力方案；这不是否定这些架构，而是显示两个正相关任务不一定需要复杂专家路由。首次互动过滤和分层采样的重要性，也提醒从业者先检查目标与采样分布，再用结构复杂度补偿错误信号。
4. 实验结果分析
离线评估使用美国每天约 10 万互动、10 天留出；缺失互动按不相关处理。该评估天然偏向历史曝光分布。论文报告如下近似值：
| 结构 | AP@10 | Top-50 热门重合率 |
|---|---|---|
| 自注意力，无因果塔，简单共享头 | 0.035 | 10% |
| 自注意力，有因果塔，简单共享头 | 0.028 | 5% |
| 自注意力，有因果塔，PLE | 0.018 | 1% |
| 交叉注意力，有因果塔，简单共享头 | 0.015 | 4% |
重合率定义为用户前 100 推荐中落入平台当日前 50 热门片名的比例。因果塔降低热门集中度，却让离线 AP@10 下降，说明去偏模型可能因为偏离历史分布而在离线受罚。PLE 的热门重合率更低也不能单独说明更好，因为相关性损失明显。这个表应联合看准确性、热门程度和线上结果。
四个线上版本分别为无塔或有塔、仅参与分数或结合两头输出。其参与度相对对照变化为 +0.43%、+0.41%、+0.35%、+0.48%；最终选有塔、组合打分版本，+0.48% 达统计显著。对应 DAU 点估计分别 +0.29%、+0.13%、+0.20%、+0.24%，标题多样性分别 +1.02%、+0.50%、+0.84%、+0.32%。不能把所有点估计都当成显著结果，也不能把该轮 +0.24% DAU 与后续跨页面结果混为同一实验。
模型扩展到原由 PLE、SASRec、SRGNN 等支持的多个页面后，后续 holdout 报告主要参与指标 +1.4%、DAU +0.5%。论文摘要“超过 1%”对应这种更广部署，不能说首次 A/B 就提升 1.4%。作者还报告首页搜索会话减少，解释为用户更易直接找到内容；对社区搜索产品而言，减少搜索使用次数未必是合理目标，需按业务路径重新定义价值。
架构消融呈现清楚失败模式：没有历史自注意力的候选交叉注意力，可能因时间上下文占优而在早晨向所有人推荐儿童内容；加历史编码后再用交叉注意力也增加参数却无收益。PLE 路由极化，少数专家占据大部分流量，并出现 dying ReLU；换 GeLU、加 bias、改初始化仅部分缓解。DCN 的上下文交叉也可能压过个体偏好。更长历史配平均池化则稀释近期信号，出现更像召回而非精排的行为。这些现象使改结构的原因和边界比单一胜负表更可操作。
5. 局限与未来方向
作者在结论明确指出历史偏差使离线超越旧模型困难，计划同时扩展 LLM 定性评估和 doubly robust 反事实评估。二者是未来方向，不能写成已有完善验证。另一个计划是引入曝光未互动负例，提高会话响应能力，并增加参与、多样性与长期满意度等目标。体育、新闻等不同内容生命周期以及视觉、音频输入也尚属扩展方向。
目前随机负采样意味着输出未校准，不能直接当 CTR；简单共享头胜出依赖当前两个正相关任务，任务冲突更强时结论未必成立。作者也承认长序列与平均池化搭配可能弱化精排。读者额外应关注：工业数据未公开，部分表格值近似，缺少完整训练超参，无法仅靠本文复刻商业收益；因果塔的代理标签假设并没有被随机干预完全验证。
6. 工业实践意义
社区 UGC 搜索可借鉴丰富行为序列与轻量去偏，但应保留 query 语义相关性约束，不能用观看首页排序替代搜索相关性。首先按“发现新帖子”与“回访已有内容”拆清样本目标，比较首次互动过滤与保留重复互动的差异；检查分层策略、负采样和时间泄漏，再尝试新任务头。输出若用于点击率融合，还要另外做校准验证。
生产服务将特征提取与推理解耦，通过 TensorRT、统一形状、CUDA pinned memory、无锁缓冲池及嵌入缓存减少开销。作者报告每秒数万请求、每次上千候选、每秒数千万预测，中位推理不超过 50ms，部分优化路径低于 25ms；相对 CPU 方案性能约 10 倍、成本为 25%。这些指标来自不同服务描述，不应简单组合成单次固定 SLA，更不能保证社区硬件上同样收益。
模型晋级前用合成 profile 检查类型偏好、年龄和地区行为，失败则阻止进入 canary。社区可以对应设计用户偏好、query 意图与近期互动变化的行为测试，再与真实 nDCG、CTR 和长尾质量联合验收。最值得迁移的是可解释的实验流程：强数据基线、逐项消融、定性失败检查、线上 A/B，以及把跨页面后续效果与单轮模型实验分别记录。