DrEM：上游预估噪声如何同时破坏排序输入和监督

原文：https://arxiv.org/html/2608.12778v1 。以下依据正文第 3–5 节及表 1、表 2；业务迁移建议为分析判断。

1. 问题与动机

短视频融合排序需要把点击、观看、点赞、关注、评论等多维预估合成一个排序分数。用户满意度没有完整的直接标签，未曝光候选更没有事后行为，因此工业系统常用上游多任务网络输出的 pxtr 构造样本偏好对，同时又把这些 pxtr 当作融合模型输入。这个双重用途使上游预测误差沿两条路径传递：监督侧可能把本应靠后的内容变成正偏好，特征侧则使输入扰动放大成排序波动。

作者指出，不同任务、物品和样本对具有不同的预测噪声，统一去噪力度会过度修正可靠样本，却保护不了高噪声样本。EMER 从预估比较中构造偏好监督，EASQ 进一步引入用户问卷，两者仍可能把上游预估当作可靠信号。DrEM 的出发点是先描述共同的噪声来源，再分别处理监督翻转和输入不稳定。对社区搜索而言，这对应于把点击、评论、收藏等信号融合时必须面对的可靠性差异，而非直接替代语义相关性模型。

2. 方法详解

输入包括候选物品的多维 pxtr 矩阵、用户画像与历史行为、请求时间及场景等上下文。融合网络为每个候选生成一个标量分数。对每一行为维度，按预估概率的大小构造物品对；然后将概率转为 logit，使有限区间内的概率噪声转换为实数空间中的加性噪声。论文假设观测 logit 等于干净 logit 加零均值高斯噪声，物品之间的噪声独立，且方差可随物品变化。

先估计噪声方差。作者利用大量曝光日志，对预估值接近的样本分桶，比较桶内平均预估与平均真实行为。通过 sigmoid 的 probit 近似，使用两个均值的标准正态逆累积分布值之比估计方差：将该比值平方减一，再除以 λ 的平方，其中 λ 等于 π/8 的平方根。该推导依赖桶内共享方差、桶宽趋近零和样本数足够大，并不是从一次点击残差就能可靠估计某个物品的方差。

对于观测上 i 优于 j 的样本对，偏好翻转概率近似为 Φ(-(z_i-z_j)/sqrt(σ_i²+σ_j²))。预估间隔越小，或两边方差越大，翻转概率越接近二分之一。监督修正损失用正向损失乘以一减翻转概率，减去反向损失乘以翻转概率，再除以一减两倍翻转概率。当估计与真实翻转概率一致时，作者推导其期望恢复干净风险。实际实现需要检查数值边界，尤其分母接近零的样本；这里的稳定化处理是复现建议，正文未给出完整裁剪配置。

特征侧从相同方差模型采样高斯噪声，加到 pxtr 的 logit 上，再经 sigmoid 还原成概率。用户和上下文保持不变，将原输入与扰动输入分别送入融合网络。并非对所有物品对强制输出不变：只有扰动前后 pxtr 偏好顺序未变化的样本对才接受一致性约束，目标顺序由原始输入下的模型分数给出。否则，扰动已经改变有效偏好，强迫保序反而会与主任务冲突。

总目标为风险修正损失加上 λ_cons 倍的保序一致性损失。正文给出用户和物品 embedding 维度 32、pxtr embedding 维度 8，Adam 学习率 5×10^-6，一致性权重搜索 0.1、0.3、0.6。实验使用大型短视频平台的私有日志，没有披露完整样本量、batch size、硬件和训练步数，因此不能将这些缺失项补成可直接复现的配置。新增计算主要来自训练时的一次扰动前向；推理时不增加额外网络计算。

3. 核心技术贡献

第一，修正对象从单点标签扩展为由上游预估诱导的样本对翻转。传统隐式反馈去噪关注错误点击或负样本，DrEM 处理的是预测值构造出来的代理监督，风险模型更贴近融合排序的实际输入链路。它把不同样本对的预估间隔与不确定度一起用于决定修正力度。

第二，两侧使用同一个 logit 噪声模型。方差既决定监督翻转概率，也决定特征扰动强度，避免两种模块各自假设互不一致的噪声。此设计不需要改造 EMER 或 EASQ 的主体结构，能够作为训练机制附加到已有融合模型上。

第三，保序过滤明确区分应当抑制的预测波动与已经改变偏好的输入变化。常规扰动一致性若无条件保持原排序，会要求模型忽视合法的偏好变化。DrEM 仅保留扰动前后偏好一致的样本对，减少这种训练目标冲突。

贡献的量化支持来自跨骨干实验，而非单一指标全面胜出。例如 EASQ 的观看 GAUC 从 0.6615 提升到 0.6742，但评论任务上监督侧单独修正达到 0.6673，高于完整模型的 0.6661。完整方案的优势应理解为总体稳定收益，不能说每一个任务都严格优于全部消融版本。

4. 实验结果分析

离线实验在上游 pxtr 的 logit 中加入强度 α 为 0.5、1.0、2.0 的高斯扰动。评估采用按曝光量加权的用户组 AUC，并以未扰动 pxtr 的顺序作为参考，因此首先测量的是对参考预估顺序的恢复能力，不能直接等同于真实满意度的预测精度。

在 EMER 上，完整模型的评论和关注 GAUC 分别增加 0.0075、0.0112；监督修正单独使用就带来较大稀疏任务收益。点击任务则是特征侧单独使用的 0.6570 略高于完整模型的 0.6563，说明组合不保证逐指标最大化。作者的平均 GAUC 消融图显示，扰动增大时两侧保护更重要；图中没有可直接读取的完整数字，因此不虚构不同噪声强度下的提升幅度。

线上实验持续 7 天，正文描述各组使用 5.1% 主流量，按用户哈希分配。表 2 给出的 EMER/EASQ 相对变化分别为：LT7 +0.017%/+0.020%，应用停留 +0.116%/+0.124%，视频观看 +0.691%/+0.117%，长观看 +0.401%/+0.043%，点赞 +0.625%/+0.048%，关注 +1.197%/+0.460%，转发 +0.683%/+0.181%，评论 +1.388%/+0.178%。作者报告全部 p<0.005；没有提供绝对基线、方差和置信区间，无法据此计算绝对新增行为数。

正文对 EASQ 边际收益的文字解释与表格存在不完全一致：它称除视频观看外各项都小于 EMER，但 LT7 与应用停留实际略高。这里以表 2 数值为准。稀疏交互在 EMER 上获益明显，与噪声翻转的机制解释相符；这种相关模式仍不能单独证明方差估计完全正确。

5. 局限与未来方向

作者明确说明，公开短视频数据通常只有事后反馈，没有训练和评估所需的上游 pxtr，因而离线实验依赖私有工业数据。这限制了外部复现。其方法还建立在 logit 零均值高斯噪声、物品噪声独立和桶内方差共享等假设上，理论结论应连同这些条件理解。

正文进一步承认，高翻转概率区间中的某些密集任务出现略负 GAUC 增益，并将其归因于样本极少造成的统计噪声。作者没有独立的系统性局限章节，也未量化真实噪声偏离高斯假设时的失败边界。分析上还应关注：推荐反馈存在曝光选择偏差，桶内均值差可能同时包含模型系统性失准与随机不确定度；日志延迟及版本更替也可能改变估计。后续可按模型版本、用户活跃度和内容新鲜度检查残差，并评估是否需要带偏置项或任务间协方差的扩展。这些扩展属于建议，未在原文中验证。

6. 工业实践意义

对社区 UGC 短文本搜索，适用切入点是候选已达到相关性门槛后的多反馈融合层。先保留语义相关性与 query 意图约束，再研究点击、评论、关注等预估的不确定性；直接套用短视频满意度目标可能把高互动但不回答问题的内容推到前面。

建议首先离线按任务绘制预估与真实行为分桶曲线，确认稀疏任务的误差确实较大，再比较基础融合、仅风险修正、仅特征一致性和完整 DrEM。实验需要同时查看总体 nDCG、CTR、长尾新帖覆盖，以及不同 query 意图和用户活跃度的分层指标，区分收益来自稳健排序还是目标权重的隐性变化。

上线时可保持现有推理网络与接口，将方差估计和扰动训练放在离线更新链路中。训练会增加前向计算和日志统计成本，文章未报告具体训练时长、显存或延迟数字，因此只能确认设计上不增加推理计算，不能宣称整套系统零成本。稀疏评论与关注的正收益值得小流量验证，但 7 天实验不足以证明长期内容生态收益；社区搜索还应持续监测满意度、低质内容曝光及新用户体验。DrEM 最可迁移的经验是：由模型预测生成的监督也需要质量建模，且输入侧和监督侧应采用一致的不确定度假设。