Personalized Task Dependency Graphs for Mitigating Signal Erosion in Multi-Task Recommendation

1. 问题与动机

PTDG 研究工业推荐中的多任务信号衰减。点击、下载、付费通常存在先后约束，但不同应用的转化路径并不相同：论文用重度游戏与轻量工具举例，前者更依赖“点击—下载—付费”，后者可能跳过某个中间步骤。如果所有样本都沿相同强度的固定漏斗传播，稀疏的深层目标就容易在多次传递中失去有效信息。作者保留行为先后顺序，却允许任务间的信息传递强度随物品、用户与场景变化。

这与单纯调整多任务损失权重不同。MMoE、PLE 主要处理共享表示与专家选择，AITM 等方法显式沿漏斗传递信息；论文认为这些做法仍不足以表达实例之间的任务依赖差异。动机也有数据基础：KuaiRand1K 六个行为目标的正例率横跨 0.02% 到 37.9%，让每个目标以同样方式共享参数，很可能使少量评论、关注或转化信号被密集目标主导。对社区搜索，值得考察的是点击之外的后续互动，而不是假定所有目标都能获得同等收益。

2. 方法详解

输入由物品特征、用户特征和场景特征构成，输出为 T 个行为概率。先由物品表示生成两个 T×q 的低秩因子 ZL、ZR，基础邻接矩阵为 ZL×ZR 的转置。正文要求 q 小于 T/2，实验设为 2。用户和场景特征经过 MLP 得到 q 维调制向量 gamma，将它沿任务轴广播后与 ZL 逐元素相乘，再和 ZR 组合。这样，相同物品面向不同用户或请求场景时，也可以产生不同的任务依赖强度。

随后对邻接矩阵施加硬因果掩码，禁止业务上不允许的信息方向，例如从付款节点反向传递到点击节点。模型加上自环，经度归一化进行 GCN 传播，输出每个任务节点的表示，再以任务 MLP 和 sigmoid 预测行为概率。动态图可以提供跨越冗余中间节点的快捷通路，但快捷通路仍受掩码限制。这里的“因果”首先指结构先验，论文没有证明学得的边就是可识别的因果效应。

训练目标是各任务二元交叉熵的加权和。每个任务维护损失的指数移动平均，权重取该移动平均的倒数，使不同数值尺度的任务损失更容易共同优化。EMA 系数 alpha 为 0.1。实现时需要注意，正文给的是损失归一化形式，不能把它替换为静态手工权重后仍称为完整 PTDG。

另一部分是 Adaptive Progressive Masking。每个任务有专属 embedding 和门控网络，从共享参数中选取得分最高的若干项。目标掩码率由正例比例决定：正例越少，掩码率越高，减少其与其他任务共享的参数。实验使用最小掩码率 0.2、最大掩码率 0.7。训练开始时保留较多参数，再线性增加屏蔽比例，避免一开始就让困难任务失去学习通道。训练结束后掩码固定，作者称其不增加推理阶段开销。

实验优化器为 Adam，学习率 0.001，dropout 0.1，batch size 2048，单张 NVIDIA Tesla V100。每个配置运行 20 个随机种子。KuaiRand1K 有 840 万样本、6 个任务，工业集有 1320 万样本、7 个任务，工业正例比例未公开。论文没有给出完整训练轮数与训练时长，不能从硬件型号推算训练成本。

复现时还有一个明确的文本歧义：实现段把 warm-up 的参数写为 p_min=500、p_max=2000，但方法段已用这两个符号表示正例比例，warm-up 上限则写为 S_warm。500 和 2000 显然不能直接当作比例。应回查实现或向作者核对其实际含义，并在复现记录中公开所采用的步数设置。

3. 核心技术贡献

第一，模型把“任务之间如何共享信息”放进实例相关的图结构。用户与场景并非只影响最后的预测头，而是调制边的强度。低秩分解提供容量约束，减少从稀疏标签中学习任意任务图的风险。工业集去掉个性化调制后，平均 AUC 从 0.8878 降到 0.8771，是表 3 中损失最大的单项消融。

第二，GCN 传播与硬因果掩码同时控制信号路径。作者希望跨层快捷连接缓解深漏斗衰减，同时阻止语义回流。用简单拼接代替 GCN 时平均 AUC 为 0.8796，移除因果掩码时为 0.8814，说明实验中的收益不能完全归因于多放几个任务特征。

第三，APM 从参数可见性处理任务冲突。它与依赖图是两层设计：图决定任务节点之间的信息路径，掩码决定任务使用哪些共享参数。去掉 APM 后平均 AUC 为 0.8826，保留掩码但取消渐进过程时为 0.8841；两个结果支持“分配方式”和“训练过程”都影响最终表现，但不能据此声称梯度冲突已被理论上完全消除。

4. 实验结果分析

下表摘录原文表 2。AUC 是绝对值，不能把绝对差写成百分比提升。不同数据集上的最佳基线也不同。

工业 Task 3 的第二梯队中，PMTRec 为 0.8745，PTDG 为 0.8872；相对差约 1.45%，对应摘要中的最高稀疏目标收益。Task 6 对比 MIT 的 0.8899，相对提升约 1.05%。这两项比平均分更符合论文关于深层稀疏信号的动机。与此同时，Task 4 上 PLE 的 0.9471 高于 PTDG 的 0.9464，说明它不是所有目标上的统一替代方案。

消融应看绝对损失及比较对象。移除个性化、GCN、因果掩码、APM、渐进 warm-up 后，平均 AUC 相对完整模型分别下降 0.0107、0.0082、0.0064、0.0052、0.0037。个性化图调制最重要，但多个组件组合的交互贡献没有通过全因子实验完整拆开，因此不能简单相加这些下降量。q 从 1 增至 7 的敏感性实验在 q=2 达到峰值，更大容量反而退化；作者据此支持低秩正则化，并承认更大规模任务数上的分析仍待开展。

线上试验在一个日活超过一亿的应用分发平台运行两周，10% 流量进入 MMoE 对照桶，10% 进入 PTDG 实验桶，其余流量沿用现网模型。作者以每日汇总指标进行双样本 t 检验，阈值 p<0.05，报告 CVR 相对提升 1.2%、eCPM 相对提升 1.9%。这提供了真实生产支持，但不能从平台日活直接推断实验曝光数，也不能把 CVR 增益换成 CTR 增益。报告没有披露各目标对应的全部商业标签和完整区间估计，外部复现的边界仍然存在。

5. 局限与未来方向

作者明确提出两个后续方向：扩展到更多任务，以及跨域推荐。正文还说明 q≈T/3 在当前设置中表现较好，但正式的规模分析留给未来工作。这意味着七任务实验不能直接支持数十或数百任务下的效率结论。对密集目标收益有限也是论文明确讨论的现象，尤其是工业 Task 4，并非本解读补充的假想问题。

从复现角度另有几点需要核对。首先，复杂度段宣称邻接构造和传播对 T 近似线性，但若直接实例化完整 T×T 邻接矩阵并施加任意硬掩码，不能只凭低秩因子参数量就确认实际算子复杂度。其次，top-k 二值掩码的梯度近似、门控训练和最终冻结细节未充分展开。最后，工业数据不公开且 warm-up 符号存在冲突，因此应把可复现的 KuaiRand 结果与不可完全复现的商业指标分别记录。这些是实践审阅意见，不是作者已验证的失败结论。

6. 工业实践意义

社区 UGC 搜索可先选取业务有充分定义的少量目标，例如点击、有效停留、评论、收藏和负反馈，并审查各目标是否确有先后约束。收藏不必经过评论，负反馈也不应照搬购买漏斗。只有具备明确业务依据的方向才适合写入硬掩码；“无法发生的顺序”与“统计相关性弱”应分别处理，前者由约束表达，后者交给边权学习。

试验可以在现有 MMoE 或 PLE 特征底座上逐步加入图调制与 APM。先对比固定图和动态图，再单独打开参数掩码，按内容类型、互动稀疏度、新老用户查看 AUC、校准误差与负反馈；随后用线上 CTR、有效互动和护栏指标检验离线收益是否转化。这样的顺序是面向本业务的建议，原文并未提供社区搜索实验。

生产部署需要明确延迟账本。作者报告相对 MMoE 增加 8 毫秒，并称处于其 SLA 内；社区搜索排序可用预算可能不同，应测量端到端 P95/P99、不同批量下的图算子开销与显存。APM 固定后没有额外掩码学习开销，也不意味着整套 PTDG 推理免费。最值得优先验证的业务条件，是已有多任务排序、稀疏高价值目标确实表现不佳、且现有任务依赖过于固定；仅优化单一 CTR 的场景无法直接利用这里的大部分结构设计。

原文：PTDG 完整论文，重点为第 3、4、5 节及表 1–3。数字均来自正文；复现疑点和 UGC 试验建议已与作者结论区分。