问题与动机

CVR（转化率）估计是推荐系统中的基础任务，但面临数据稀疏和样本选择偏差两大挑战。ESMM 通过将用户行为分解为"曝光→点击→转化"序列构建辅助任务来缓解这些问题，但作者通过理论分析发现其存在两个严重缺陷：

内在估计偏差 (IEB)：论文通过定理 1 严格证明，在合理假设下 ESMM 的 CVR 估计值系统性地高估真实转化率。这是因为 ESMM 通过 CTCVR/CTR 间接估计 CVR，分母（CTR 估计）的不精确会放大估计偏差。

虚假独立先验 (FIP)：ESMM 未显式建模点击与转化之间的因果关系。模型估计的是 ℙ(r=1|o) 而非 ℙ(r=1|do(o=1))，忽略了"只有点击后才能转化"的因果结构，将点击和转化视为近似独立事件。

作者在工业数据集上验证了 ESMM 的估计偏差高达 |r̃ - r̄| = 0.1236，这在投放预算分配等依赖 CVR 绝对值的业务场景中会造成严重问题。

方法详解

ESCM² 在 ESMM 架构基础上引入反事实风险正则化器，在保留 ESMM 数据稀疏缓解能力的同时纠正估计偏差。

IPS 正则化器：ℛ_IPS = E[(o_u,i · ε_u,i) / q_u,i]，其中 ε_u,i 为估计误差，q_u,i 为倾向性得分（即 CTR）。核心思想是通过逆倾向性加权，将点击空间的样本分布重新加权为全空间分布，从而纠正选择偏差。论文证明（定理 4）在准确倾向性估计下，𝔼_O[ℛ_IPS] = 𝒫（理想目标）。

DR 正则化器：ℛ_DR = ℛ_DR^err + ℛ_DR^imp，结合误差填充和实际误差校正。双重鲁棒方法确保只要倾向性估计或误差填充其中之一准确，最终估计就是无偏的。

关键实现细节：计算 IPS 正则化器时，o_u,i（点击指示变量）的梯度被截断（gradient stopping），防止 CTR 优化干扰 CVR 训练。这是一个非常关键的工程决策——不截断梯度会导致 CTR 任务性能退化。

模型架构采用多臂预测器：共享嵌入查找表和特征提取器，任务专有的 CTR/CVR/误差填充预测臂，基于 MMoE 实现多任务学习。

损失函数：ℒ_ESCM² = ℒ_CTR + λ_c · ℒ_CVR + λ_g · ℒ_CTCVR，其中 λ_c = 0.1，λ_g = 1.0。

训练设置：工业数据集 6158 万训练样本，3773 万用户，373 万点击，32 万转化。采用单 epoch 训练（工业推荐系统中多 epoch 易过拟合）。结果报告 10 次随机种子的均值±标准差，配对 t 检验验证显著性。

核心技术贡献

1. IEB 和 FIP 的理论形式化：首次从数学角度严格证明 ESMM 系列模型的两类偏差来源，其中定理 1（IEB 证明）和定理 4-5（反事实正则化无偏性证明）为后续改进提供了理论基础。这使得"ESMM 有偏"从经验观察上升为定理结论。

1. 反事实学习与整体空间多任务的统一：将 IPS 和 DR 估计器引入 ESMM 框架作为正则化项，保留了整体空间训练缓解数据稀疏的优势，同时通过因果推断纠正估计偏差。这比替换 ESMM 框架的方案更具增量部署价值。

1. 重要性采样视角：将 ℛ_IPS 建立为重要性采样，使得方差缩减等高级技术（如截断 IPS、自归一化 IPS）可直接应用，为后续方法改进打开了空间。

实验结果分析

CVR 任务：在工业数据集上，ESCM²-IPS 的 AUC 达到 0.773（vs ESMM 0.755，MTL-IPS 0.759），F1 得分 0.7161，KS 统计量 0.4144。在 Ali-CCP 公开数据集上，ESCM²-DR 的 CVR AUC 为 0.6142（vs ESMM 0.6071）。

CTCVR 任务：ESCM²-DR 在工业数据集上 AUC 0.8265，KS 0.5134（vs ESMM 0.8153，KS 0.4827）。

偏差消除效果：工业数据集上 ESMM 偏差 0.1236，ESCM²-IPS 降至 0.0883（减少 28.55%），ESCM²-DR 降至 0.0781（减少 36.81%）。Ali-CCP 数据集偏差减少幅度更大（91-95%）。

因果性度量 (CRR)：ESMM 的因果风险比约 0.05（弱因果性），ESCM²-IPS 提升至 0.12 以上（2.4 倍改善），证实模型显式捕获了点击→转化的因果关系。

线上 A/B 测试在支付宝平台三个场景验证：保险场景（220 万用户）保费 +10.85%、订单 +2.84%、UV-CVR +5.64%；装修场景保费 +3.88%、订单 +4.26%；五福活动订单 +40.55%、保费 +12.69%。6 天日级数据显示效果持续稳定。

超参分析：λ_c 从 0 增至 0.1 时 CVR AUC 显著提升约 0.02，但超过 0.1 会导致"跷跷板效应"降低 CTCVR 性能。λ_g 从 0 增至 2.5 持续改善两个任务。

局限与未来方向

作者明确指出论文聚焦于"序列化用户行为轨迹"，而实际工业系统中存在"多样化用户行为，其依赖关系超越马尔可夫链假设"。未来扩展方向包括：(1) 将反事实正则化应用于图结构行为模型；(2) 处理多种转化类型和辅助行为的场景；(3) 放松马尔可夫假设，建模更复杂的行为依赖。

工业实践意义

对搜索推荐从业者的具体建议：

1. CVR 预估的绝对值很重要：在竞价广告、预算分配等场景中，CVR 的系统性高估会直接导致 ROI 计算偏差。ESCM² 的 IPS 正则化提供了一种低成本的偏差修正方案，与现有 ESMM 架构完全兼容，只需增加正则化项。

1. 梯度截断是关键工程决策：在 IPS 正则化中截断点击指示变量的梯度是保持 CTR 任务性能的关键。不截断会导致 CTR-CVR 任务间的梯度干扰，这是多任务学习中常见但容易忽视的问题。

1. λ_c 需谨慎调优：CVR 正则化权重过大（>0.1）会触发跷跷板效应，CVR 改善但 CTCVR 退化。建议从 0.01 起步，通过网格搜索找到帕累托最优点。

1. DR vs IPS 的选择：DR 理论上更优（双重鲁棒），但在线部署中 IPS 因训练效率更优而被选用。实际工程中应考虑训练成本和部署复杂度，不必追求理论最优。

1. 线上效果显著且稳定：三个业务场景均有正向收益，最高达订单量 +40.55%。单 epoch 训练 + 简单正则化项即可实现，部署成本极低。