Learned Cross-Task Relationships in Multi-Task Models

1. 问题与动机

本文针对工业多任务推荐模型输出中的信息丢失。共享底座虽然同时学习点击、收藏、点赞等标签，但服务时通常只输出各任务的边际概率。用户是否同时点击并收藏，比两个行为单独的概率能表达更多意图关系；把这些边际概率交给下游模型，并不保证下游能恢复联合概率。

论文用一个小例子解释差别：点击概率为 0.2，收藏概率为 0.1，点击且收藏的联合概率却可以为 0.05。简单相乘得到 0.02，相当于未经验证地假设独立。作者的目标不是枚举所有行为组合，也不是仅调整现有任务损失权重，而是选择少数有信息价值的辅助标签，补齐二阶关系，再评估这些关系对于共享表示和下游策略的价值。

应用背景是 YouTube 的通知、首页和 Watch Next。用户参与模型的预测值构成强化学习策略的部分状态，策略据此决定是否发送通知或选择推荐内容。原有系统已经非常成熟，因此较小相对增量仍具有业务意义；同时这些平台和实验规模不是社区应用可直接照搬的条件，迁移应着重于监督信号设计及实验拆分方法。

2. 方法详解

设两个二元标签为 X 和 Y，原模型最小化两项加权二元交叉熵：lambda_xBCE(y_x,p_x)+lambda_yBCE(y_y,p_y)。作者新增联合事件预测头，以 y_xy=y_xy_y 为标签，再加入 lambda_xyBCE(y_xy,p_xy)。它显式监督两个行为共同发生的样本，给共享表示提供针对交互关系的梯度，而不是让模型仅分别预测边际。

如果已有头预测无条件 X、Y，则缺少 E[XY]，新增交叉标签头即可。如果已有 X 与条件头 Y|X，则可以用条件概率链式法则得到 E[XY]，通常缺少的是无条件 E[Y]，此时添加无条件头。但这个判断必须检查实际标签逻辑：若 Y 严格蕴含 X，则 E[Y]=P(Y|X)P(X)，新的无条件头可能完全冗余。作者因此检查后端标签实现，而不仅看任务名字。

补齐 E[X]、E[Y]、E[XY] 后，可得到协方差 E[XY]-E[X]E[Y]，也可还原二元联合表的四个格子：P(1,0)=E[X]-E[XY]，P(0,1)=E[Y]-E[XY]，P(0,0)=1-E[X]-E[Y]+E[XY]。这些关系解释了为何一个额外头能补充结构信息，但独立头的预测不必天然满足所有一致性约束，不能把理论恒等式误认为训练后已保证概率一致。

全部 N 个二元任务的联合空间规模随 2^N 增长，论文只选择任务对，最多约 N^2 个关系头，实际只加入少量。关系头可以直接连接共享底座，也可连接现有任务顶部隐层。通知系统后续实验进一步比较梯度路径：经变体专属塔回传，与绕过变体直接回传到共享事件底座。后者对不平衡和稀疏标签更有效。

作者给出分阶段工作流。首先选择非平凡任务对，检查交叉标签稀疏性、互斥和嵌套关系；其次做离线评估，观察原任务 AUC。线上第一阶段只训练关系头，不把新输出传给策略，隔离共享表示迁移收益；第二阶段在保留辅助训练的同一基线上向策略提供新输出，隔离额外状态信息价值。这样才能避免把两种收益混为一种。

训练数据每天产生数十亿或更多样本，每个模型读取数周时间窗，评估集占 1%。线上每个实验臂通常包含数千万用户，全量发布面向数十亿用户。论文没有公开优化器、batch 大小、GPU/TPU 配置和精确训练步数，也抽象了部分专有标签及指标；实施者必须自行确定这些配置，不能声称已按公开配方完全复现。

3. 核心技术贡献

第一项贡献是把辅助任务选择建立在联合分布缺失信息上。它区别于任意增加一个相关标签，也区别于 MMoE、PLE 等调整共享路径的结构方法；这些结构仍可能只输出边际预测。新增联合监督提供针对共同发生行为的训练信号，理论上补齐协方差所需量。

第二项贡献是区分训练迁移和输出信息两条收益路径。首页加入辅助头但不服务时已经取得有效观看等指标增长；之后让策略消费关系预测，低质量曝光再下降 0.64%。因为第二阶段对照已经包含辅助训练，作者能够相对清楚地解释“额外信息”的价值，避免把底座变好与下游特征增加重复计算。

第三项贡献是工业任务筛选和梯度路径经验。互斥任务交叉标签恒为零，严格嵌套交叉标签可能等于已有标签，都不值得添加。通知后续架构中，直接连接共享事件底座相比经过变体塔，相关 AUC 改善约 0.6%–4%；作者提出变体塔可能过滤关系所需信息，但把这一解释作为假设而非完全证明。

第四项贡献是说明重新加权无法等价替代联合标签。提高 X 的损失权重会增加所有 X 样本影响，联合头则突出 X 与 Y 同时发生的子集；对于条件任务，增加其权重更不能带来未满足条件样本上的监督。作者比较重复原头和增加原头权重，没有发现相同收益。

4. 实验结果分析

下表均摘自正文工业实验，表示相对于相应对照的变化。不同业务面和阶段的对照不同，不应将它们相加作为一个统一改进幅度。

通知首轮增加 10 个头，来自五类直接互动与两类环境访问的交叉。直接互动原头 AUC 改善 3%–8%，环境访问原头基本中性。联合线上臂除 CTR 增加，还将发送量减少 7.21%，日活增加 0.17%，有价值观看增加 0.19%。它改善了通知质量与数量之间的工作点，不只是通过多发通知提高点击。通知归因困难、用户响应状态多变，因此作者也指出此面实验置信区间通常更宽。

首页第一轮新增观看时长比例、收藏、点赞、订阅、内联播放的无条件头，原主任务 AUC 大多改善 0.2%–0.5%，但滚动、分享等无关头轻微回退。第二轮添加分享无条件、下载条件以及收藏与五种行为的交叉，分享和下载 AUC 改善 1%–2%，点赞和点踩约回退 0.5%。这说明辅助关系不保证每个任务都受益，应该观察整体体验及任务护栏，而不是声称负迁移已被彻底消除。

首页最终向策略提供 11 个头，包含条件版本调整、收藏与五种行为交叉和三个无条件交叉。策略输入阶段首页互动增加 0.03%，区间下端在表中四舍五入为 0.00%，不宜过度强调；低质量曝光下降 0.64%和 Shorts 互动增长 0.10%更明确。Watch Next 只完成训练迁移阶段，其原头 AUC 改善范围为 0.2%–2.6%，不能推断该面服务新输出后已有同样收益。

梯度路径对比是机制消融而非全量统一排行榜。直接连接底座在稀疏任务上更好，但本文没有公开完整每个任务的绝对 AUC 表，因此不能计算统一绝对百分点增量。正文同样没有给出通用损失权重网格、全部实验期限和每臂精确人数，读者应保留这些复现边界。

5. 局限与未来方向

作者明确承认专有环境限制了标签和指标公式的披露，部分具体定义需要领域知识，也会随应用变化。因此论文中的有价值观看、坏观看、低质量曝光等名称不是标准公开指标，不能将其定义自行补写或用作可直接对齐的公开 benchmark。

关系头选择仍需要反复实验，离线收益是正面但混合的：部分任务中性，少数原任务回退。论文关于减少梯度稀释、增强交叉信号等解释仍包含作者假设，尚不能当作所有多任务模型都成立的机制定理。作者计划继续研究辅助头的梯度路径，部分后续实验及部署仍在进行。

二阶近似也保留更高阶信息缺口。学习若干任务对不是学习完整联合分布，更不是所有用户意图被完全建模。正文没有提供公开用户日志和端到端部署实现，外部复现能力受限。明显但需要单独验证的工程问题包括交叉标签极度稀疏、头数增长带来的推理延迟，以及预测联合概率与边际概率的一致性；这些是迁移检查项，不应冒充作者已验证的结论。

6. 工业实践意义

社区搜索若已有点击、收藏和有效停留任务，可首先排查日志语义。点击后收藏是否严格依赖点击，跨页面收藏是否存在，曝光后未点击的收藏是否能正确归因，都影响哪一种辅助头有信息价值。不能机械地添加“点击且收藏”而不检查它是否已经与收藏标签等价，也不能在互斥负反馈事件上浪费预测容量。

第一轮实现保持原共享底座和任务头，加入一两个非平凡交叉标签头，直接连接共享层，并先让它们只训练、不进入在线排序。验证 CTR、收藏预估、分桶校准和搜索 nDCG 是否改善；对稀疏标签要检查有效正样本数，避免损失主导关系只剩噪声。这个阶段不需要引入强化学习，文章的训练迁移路径本身即可用于普通排序器。

如果底座收益稳定，再把关系头输出添加为下游精排特征，用“已训练但不提供新特征”的版本作对照。这样能判断额外联合信息是否超出了原 CTR 等预测的价值，而不是重复归因。搜索尤其应分 query 意图看效果：明确找某帖与探索社区内容，对收藏、停留和点击的关系可能不同。

通知实验发送量减少且 CTR 增加表明质量收益可来自筛选更精准，社区推广不能只追求曝光规模。对主动搜索则应保持相关性护栏，把负反馈、内容质量和查询满意度纳入实验。工程上新增少量头通常比重做整个推荐基座容易，但服务成本仍需实测，包括额外输出维度、下游特征管道和 P99 时延。文章提供的是清晰的增量验证流程，线上增量不能直接移植成社区搜索的预期收益。

来源：https://arxiv.org/html/2609.28776