1. 问题与动机
论文研究工业短视频推荐中的热门反馈循环：热门视频获得更多推荐与互动，训练集又不断积累热门样本，模型因此更擅长记忆头部内容，对新上传、冷启动及小众内容的泛化不足。作者关心的是不断更新的生产模型，而非一次性训练的静态推荐基准。其排序基线已经按热度的倒数对样本加权，因此本文并不是证明“给长尾加权有用”，而是在已有去偏机制上研究随训练进度变化的课程。
传统课程学习通常在 CPU 数据预处理中按难度拒绝样本。大规模流式训练如果为了突出长尾而丢弃大量热门样本，输入队列会被消耗得比 CPU 补充速度快，导致 TPU/GPU 等待。另一个问题是全局课程：模型从容易样本逐渐走向困难样本，进入后期后不再充分学习容易样本，但现实内容分布每天变化，新热点还需要及时学习。本文同时解决数据吞吐和持续训练的节奏问题，研究对象包含 SASRec 风格召回、双塔召回和多任务排序，三者的线上与离线反应并不相同。
2. 方法详解
核心实现是在计算图内为逐样本损失乘动态权重，不改变读取流程，也不拒绝任何样本。训练器先计算原有任务损失向量，再依据样本难度 d 和当前周期进度 p 计算课程系数，最后进行加权归约。所有权重运算在加速器上完成，因此不需要另建大规模并行 batch 构建器。迁移到现有排序模型时应保留原任务标签、网络和采样流程，先替换热度权重这一处干预，方便解释结果。
难度有两种定义。互动量方案用历史互动分布的分位数，公式为 d=exp(-quantile(engagement))，热门样本难度更低。另一方案使用 SNGP，即谱归一化神经高斯过程估计预测不确定性，再用该不确定性的分位数作为难度。作者强调不确定性表示模型缺少信息，与困难样本的定义相容，但它也比直接读取热度统计需要更多建模支持。
周期进度在每个子日区间重新开始，区间包含固定数量 X 的训练样本。p=(step mod X)/X，其中 step 是累计处理样本数。这样课程在训练流中不断由易到难，而不会永久停留在只重视困难样本的阶段。X 和课程幅度 alpha 都属于需要调参的变量，正文没有给出所有业务通用的最终配置。
第一种权重是困难样本预热：w=1-alphad(1-p)。周期初期最困难样本权重为 1-alpha，容易样本接近 1；随着 p 增大，所有样本逐步回到权重 1。第二种为双向难度缩放：w=1+alpha(2p-1)(2d-1)。当周期开始时容易样本放大到 1+alpha，困难样本降到 1-alpha；到周期结束时二者反转。第二种不仅取消对困难样本的惩罚，还主动增加它们的影响。
生产稳定性处理是逐 batch 归一化。随机 batch 中困难样本比例变化会使总体梯度幅度波动，形成类似有效学习率变化的噪声。作者把每个 batch 的权重除以其平均权重，使均值严格为 1，从而降低 A/A 方差。这一步应与课程公式一起实现，不能仅抄权重函数。正文给出 7 天线上排序实验，但没有完整披露训练集样本总量、优化器、batch 大小、硬件数量和训练步数；这些不能从短视频平台规模自行推断。
3. 核心技术贡献
第一项贡献是把课程从“筛选数据”变为“调整损失”，保持原训练数据供给能力。其价值不是新增一个昂贵网络，而是让课程调度留在已有加速器计算图内，避免动态拒绝触发 CPU 瓶颈。作者报告总体吞吐没有退化，但正文没有给出每秒样本或设备利用率绝对值，因此工程收益应理解为在其平台验证的兼容性，而非可直接迁移的加速比例。
第二项贡献是适合持续训练的周期课程。它与静态热度倒数权重不同，允许模型在每个周期中先稳定学习，再逐步强化难样本；也与一次性全局易到难训练不同，后续周期仍会接触当前容易样本。论文另外比较全局课程，说明现实中长期固定在困难侧会削弱对分布变化的适应。
第三项贡献是同时比较互动难度和不确定性难度，以及困难预热和双向缩放。排序线上结果中互动量双向方案比 SNGP 双向方案的满意度增量更大，分别为 0.54% 与 0.42%，说明更复杂的难度估计并非必然带来更好业务收益。简单统计作为第一版具有明确实践依据。
第四项贡献是展示离线与在线指标的分歧。序列召回在头部占主导的离线 MAP 上可能下降，但独特召回互动上升 7.7%；双塔及特征更丰富的排序模型则能同时获得离线泛化收益。这提醒实践者区分模型容量、候选池和评价集组成，不能把不同模型的 MAP 数值直接比较。
4. 实验结果分析
下表整理正文排序线上实验的相对增量，基线为生产模型，冷启动指标为最新视频年龄桶。满意度、增长和留存按作者业务定义使用，不能直接等同于其他平台的同名指标。
| 方案 | 用户满意度 | 用户增长 | 用户留存 | 最新桶冷启动互动 |
|---|---|---|---|---|
| SNGP 双向课程 | +0.42% | +0.15% | +0.15% | +4.71% |
| 互动量双向课程 | +0.54% | +0.11% | +0.15% | +5.70% |
正文表 1 的不加权 AUC 比较显示，互动量困难预热在隐式正反馈、显式负反馈、满意度及隐式负反馈任务上分别提升 0.02%、0.06%、0.02%、0.03%；互动量双向课程对应 0.03%、0.08%、0.04%、0.04%。双向方案在这四个任务上均高于单向预热。这里遵循作者百分比写法，不自行转换为 AUC 点差。因为训练权重动态变化，作者选择不加权 AUC，避免评价权重本身变化造成不可比。
按视频年龄分析，互动量双向课程在最年轻桶的四项 AUC 增量为 0.05%、0.14%、0.05%、0.08%，而最老桶为 0.02%、0.05%、0.02%、0.02%。新增和较冷内容收益更大，符合课程设计的动机，而不是所有内容统一增加同等收益。线上最新年龄桶互动提高 5.70%，不能描述成全站总互动提高 5.70%；总用户互动增量为 1.89%。
消融方面，作者拿掉原基线的热度权重后，离线结果基本中性，线上结果为负。这排除了主要收益仅由“取消热度惩罚”造成的解释。困难程度、权重策略和周期性需要一起考虑；课程样本的读取没有改变，也使改善较少受到采样规模变化的干扰。
召回端最值得注意的是序列模型：Eng-Hard 的独特召回互动提升 7.7%，冷启动互动提升 0.27%，互动提升 0.69%，最新年龄桶互动提升 0.61%。作者指出这种收益与离线 MAP 下降并存，原因是头部密集测试分布更奖励记忆热门内容。双塔的离线 MAP 则提升，但其负例来自 batch，SASRec 风格评估候选来自全局视频池，两种 MAP 的量级和难度不同，不能把表中的数值当成同一套 benchmark 排名。
5. 局限与未来方向
作者明确报告课程权重引起更高的 A/A 方差，其来源是随机 batch 难度分布改变总体梯度尺度。均值归一化能缓解问题，但是否在其他多任务损失尺度、不同分位数统计更新频率下同样稳定，仍需要业务验证。全局课程也存在无法适应新热点的缺陷，因此持续训练必须选周期长度，而非只决定是否使用课程。
论文的实验依赖一个生产短视频平台，模型结构和训练细节没有达到完全公开可复现的程度。正文没有给出批大小、完整硬件配置、所有周期参数和统计口径，无法仅凭文章复现作者全部结果。这里是阅读材料的披露边界，不应虚构训练配置填补缺口。工业结果也不证明对问答、评论或主动搜索流量必然有效。
正文揭示的另一边界是评价分布：离线 MAP 下降与线上探索提升可以共存，但这并不意味任何 MAP 下降都可接受。需要确定受影响的是热门内容记忆还是用户确实需要的相关结果。作者没有给出社区搜索 nDCG 的实验，因此迁移价值应保持为可验证假设。
6. 工业实践意义
对社区 UGC 搜索，最容易落地的是排序训练的权重替换。先固定现有检索和排序模型，用帖子历史互动量分位数估计难度，再选择小幅 alpha 和子日周期。这样第一版只引入统计特征和标量计算，工程改动有限；SNGP 可留在已有不确定性模型的团队进一步比较。
离线评估应同时按内容年龄、热度、用户活跃度分桶，并使用固定、不加权的指标，避免课程训练权重进入评估口径。核心业务指标保留 nDCG 与 CTR，再加入新帖曝光、有效停留、负反馈及内容覆盖；不能把视频平台的“用户满意度”直接替换为 CTR，也不能把最新桶收益写成总体收益。
上线前先做 A/A，检查 batch 权重均值、梯度范数和有效学习率的波动。线上 A/B 可参考作者 7 天实验，但应覆盖本业务内容生命周期和周周期。对头部查询尤其要防止为长尾探索牺牲明确意图的相关结果。若仅召回变得多样，应检查排序是否把这些候选真正送到用户，并单独统计新内容的消费质量。
推理端不需要新增课程模块，主要成本在训练图和难度统计；因此它适合作为低推理开销的实验方向。不过“训练吞吐不退化”是作者平台观察，仍应测量本地数据管道和加速器利用率。最终判断应结合内容生态改善与相关性护栏，而不是只追求热门内容比例下降。
来源：https://arxiv.org/html/2609.35783