论文: PRECTR-V2: Unified Relevance-CTR Framework with Cross-User Preference Mining, Exposure Bias Correction, and LLM-Distilled Encoder Optimization
来源: 阿里巴巴闲鱼搜索团队 | arxiv: 2602.20676
1. 问题与动机
PRECTR-V2 是对前作 PRECTR（统一搜索相关性与 CTR 预估框架）的迭代升级，针对其在大规模工业部署中暴露的三个关键缺陷：
冷启动个性化失效：PRECTR 依赖用户自身的历史行为序列来建模"相关性偏好"（即用户对搜索结果相关性的敏感程度）。但在闲鱼这样的 C2C 平台上，大量低活用户缺乏足够的行为数据，导致个性化相关性激励分 τ(x) 退化为全局均值，失去区分能力。
曝光偏差严重：训练数据中 80%以上的样本是高相关性 item（rsl=4），因为排序系统本身就倾向于曝光相关性高的结果。这导致模型在训练时几乎看不到低相关性样本，而推理时需要对大量低相关性候选做评估——训练与推理的分布严重不匹配。
编码器无法联合优化：原始 PRECTR 使用冻结的 BERT（110M 参数）提取文本 embedding，再接 MLP 做 CTR 预测。冻结 BERT 的原因是线上延迟要求，但这阻止了文本表征与 CTR 目标的端到端联合优化，限制了模型上限。
这三个问题在搜索排序系统中极为普遍——冷启动、曝光偏差、语义理解与行为预估脱节——是搜索/推荐领域的核心痛点，解决它们具有很强的实际意义。
2. 方法概述
PRECTR-V2 在 PRECTR 的统一框架（将点击概率分解为 P(click|x) = Σ P(click|rsl=i, x)·P(rsl=i|x)）基础上，新增三个模块：
| 模块 | 解决的问题 | 核心思路 |
|---|---|---|
| Cross-User Preference Mining | 冷启动 | 从同 query 类目下采样 50 个相似用户的行为，补充稀疏用户的偏好信号 |
| Relevance Exposure Debias | 曝光偏差 | 对高相关正样本注入噪声构造低相关负样本，用 pairwise ranking loss 校正 |
| LLM-Distilled Lightweight Encoder | 编码器冻结 | 用 Qwen-7B 蒸馏 + 相关性 SFT 训练 2M 参数的轻量 Transformer，替代 110M 的冻结 BERT |
整体思路是：在不破坏统一相关性-CTR 框架的前提下，逐个击破工业落地中的关键瓶颈。
3. 核心技术贡献
3.1 跨用户相关性偏好挖掘
这是本文最有新意的模块。核心洞察是：同一 query 类目下的用户群体对相关性的偏好模式是可迁移的。
具体做法：
- 对低活用户，在同 query 类目下采样 50 个相似用户
- 按 query 文本相似度筛选 top-k 行为
- 合并序列 S = {S_u, S_q}（用户自身 + 跨用户采样）
- 用 Multi-Head Target Attention 分别生成 user-level 和 category-level 的偏好表征
- 最终通过 MoE（两个专家网络 + 不同激活函数） 融合输出相关性激励分 τ
与常见的 user-CF 补全不同，这里迁移的不是 item 偏好而是相关性敏感度偏好——某些用户更在意相关性（只点高相关结果），某些用户更宽容。这个视角比较独特。
3.2 曝光偏差校正
构造困难负样本的方式很巧妙：
- 取 click=1 且 rsl=4 的正样本
- 将 rsl 降级（按概率 p1/p2 分配到 1/2/3）
- 对 item 文本 embedding 注入高斯噪声：Q_emb^fake = Q_emb + ε, ε ~ N(0,1)
- 用 pairwise ranking loss 约束 f(x⁺) > f(x⁻)
关键创新在于两个校准机制，防止 ranking loss 破坏绝对预估校准（PCOC）：
- Relative order critical distance penalty：对正负样本分数差设 margin 上限，避免过度拉开
- Dynamic truncation weighting：当 batch 平均分数超过阈值时将 loss 权重截断为 0
这两个设计在工业实践中很关键——纯 pairwise loss 会破坏 pCTR 的绝对值语义，而搜索/推荐系统的竞价、流控等模块都依赖 pCTR 的校准性。
3.3 LLM 蒸馏轻量编码器
用 2M 参数的 3 层 Transformer 替代 110M 的 BERT，训练分三步：
- Relevance SFT：在相关性标注数据上做分类微调
- LLM Embedding 蒸馏：以 Qwen-7B（RAG 增强）为教师，MSE 损失蒸馏
- 端到端联合微调：以较小学习率与 CTR 主模型联合训练
参数量缩减 55 倍（110M → 2M），满足线上延迟要求的同时实现了端到端优化。
4. 实验结果分析
离线实验
在闲鱼 16 亿日曝光数据 上的实验结果：
| 模型 | AUC | GAUC | RelaImpr |
|---|---|---|---|
| Wide&Deep | 0.7267 | 0.6586 | baseline |
| DIN | 0.7492 | 0.6757 | — |
| PRECTR | 0.7581 | 0.6892 | — |
| PRECTR-V2 | 0.7674 | 0.6933 | +5.61% |
- 相比 PRECTR 提升 AUC +0.0093、GAUC +0.0041，在十亿级数据上这是非常显著的提升
消融实验
| 配置 | AUC RelaImpr |
|---|---|
| 仅 Cold-Start Mining | +1.08% |
| 仅 Exposure Debias | +2.98% |
| 仅 LLM-Distilled Encoder | +3.13% |
| 三者联合 | +3.60% |
- LLM 蒸馏编码器贡献最大（+3.13%），说明端到端联合优化的重要性
- 三个模块有正向叠加效应（3.60% > max(1.08%, 2.98%, 3.13%)）
在线 A/B 实验
- 20%+ 流量对照
- 人均订单量 +1.39%
- GMV +3.18%
- PCOC 偏差从 2.3% 降至 1.7%（校准性更好）
- 高相关性 badcase 率仅微升 0.15%（绝对值），可忽略
- 已全量部署上线
5. 局限与未来方向
现有局限
- 跨用户采样的在线开销：采样 50 个相似用户并计算 query 文本相似度，在线 serving 时的延迟和存储开销未详细讨论。在流量高峰时这可能成为瓶颈。
- 噪声注入的粗糙性：用标准高斯噪声破坏 embedding 来模拟"低相关性"，这种构造方式较为粗糙。真实的低相关性样本有其自身的语义模式（如 query="手机壳"但展示了"手机膜"），简单加噪声可能无法准确模拟。
- 蒸馏教师的局限：Qwen-7B 作为教师模型，其语义理解能力在电商垂直领域可能不够精确，尤其是对闲鱼这类非标品平台。
- 相关性 badcase 微升：虽然论文称 0.15% 的绝对增幅可忽略，但在搜索场景中相关性是底线，长期积累可能影响用户体验。
- 单平台验证：仅在闲鱼（C2C 二手电商）上验证，泛化性到 B2C、内容搜索等场景未知。
未来方向
- 动态负样本生成：用生成模型（如 LLM）构造更真实的困难负样本，而非简单噪声注入
- 多粒度蒸馏：不仅蒸馏 embedding，还可蒸馏 attention pattern 和中间层表征
- 在线学习适配：跨用户偏好挖掘模块可结合在线学习，实时更新相似用户图谱
- 多目标扩展：从 relevance-CTR 二元统一扩展到 relevance-CTR-CVR-satisfaction 多目标统一
6. 工业实践意义
对搜索系统
统一建模范式的验证：PRECTR 系列持续证明 relevance 和 CTR 不应割裂优化。工业搜索系统中常见的"先相关性过滤、再 CTR 排序"的级联架构，可以考虑向统一框架迁移。核心公式 P(click) = Σ P(click|rsl=i)·P(rsl=i) 提供了一个干净的分解视角。
对推荐系统
冷启动偏好迁移的思路：跨用户偏好挖掘不局限于搜索场景。推荐系统中的新用户冷启动同样可以从"类目/场景相似用户"中迁移偏好模式，且迁移的维度可以从"相关性偏好"扩展到"多样性偏好""价格敏感度"等。
对广告系统
曝光偏差校正 + 校准保持的双重设计：广告系统对 pCTR 校准性的要求极高（直接影响出价和收入），本文的 margin + dynamic truncation 机制是 pairwise 学习与校准保持的一个很好的平衡方案，值得广告排序借鉴。
对 LLM 落地
大模型蒸馏到端上的务实路线：110M → 2M 的压缩比（55x）且保持甚至提升效果，给出了一条"LLM 预训练语义 → 轻量模型蒸馏 → 端到端联合训练"的工业化路径。这比直接在线上部署大模型做推理要务实得多，是当前 LLM 赋能搜推广的主流思路之一。
关键 takeaway
搜索排序的核心矛盾不是"要相关性还是要 CTR"，而是如何在统一框架中让两者协同增强。PRECTR-V2 给出的答案是：补齐偏好信号（冷启动）、校正数据偏差（曝光偏差）、打通表征学习（LLM蒸馏），三管齐下。