1. 问题与动机
现代电商搜索系统的检索层面临一个核心矛盾:用户行为信号(点击、下单)是最易获取的训练标签,但它们是语义相关性的不完美代理。用户可能因为商品流行度、促销折扣、视觉吸引力、价格因素而点击与查询语义弱相关的商品。这一问题在广告搜索中尤为严重——广告展示受竞价结果、广告主预算和出价策略影响,导致行为信号的结构性稀疏。Walmart 的广告搜索位有限(远少于自然结果位),进一步加剧了行为信号的覆盖不足。
论文明确指出,传统方法将行为信号作为正样本的定义来源是根本性错误:应该以语义相关性为门槛来决定检索候选资格,行为信号仅用于在已确认相关的商品中做偏好排序。这种"相关性优先"的设计哲学贯穿整个框架。
2. 方法详解
论文提出三组件统一监督框架(Unified Supervision Framework),将异构信号统一为 bi-encoder 检索器的训练目标。
组件一:分级相关性标签(0-4 五级)
采用级联交叉编码器(Gemma-1B → Gemma-2B → LLaMA-3 8B)逐级精炼标注,辅以人工标注校准。归一化公式为 rel_score(q,i) = (Rel(q,i) - 2) / 2,将 [0,4] 映射到 [-1,1] 区间。只有 Rel ∈ {3,4} 的商品被视为正样本。
组件二:多通道检索先验分数
聚合三个生产检索通道的排序位置,通过对数归一化 π_s(q,i) = max(0, 1 - log(rank) / log(R_s)) 将排序位置转换为 [0,1] 连续分数。多通道共识度 C(q,i) = c(q,i) / |S| 衡量各通道检索结果的一致性,既用于硬负例挖掘,又用于强化系统已验证的检索模式。
组件三:用户行为信号
加权组合公式 E_raw = log(1 + 1.5Orders + 0.3AddToCart + 0.1Clicks + 0.01Views),经查询级归一化和 sigmoid 平滑(k=8)处理。关键设计:行为信号仅对已确认语义相关的商品生效,防止流行度偏置泄漏。
统一训练目标
正样本目标:y = 0.85 (0.6rel + 0.3π + 0.1C) + 0.15 * Ẽ,其中 0.85/0.15 的权重分配体现了"相关性为主、行为为辅"的设计原则。负样本通过排序先验和词汇重叠度识别硬负例。基于 MiniLM bi-encoder 架构,使用 Cached Multiple Negatives Ranking Loss (cachedMNR) 训练。
3. 核心技术贡献
贡献一:相关性优先的检索范式转变。 颠覆了以行为信号定义正样本的传统做法。论文论证了在广告搜索中行为信号的结构性缺陷,提出以级联 cross-encoder 相关性判断为正样本门槛,行为信号降级为排序微调信号。这一改变使 Precision@25 提升了 10.0%(0.794→0.873),而行为信号在此基础上仅贡献额外 0.5%。
贡献二:多通道生产检索共识用于硬负例挖掘。 利用现有多通道检索系统的输出一致性来识别当前系统的失败模式(某些通道检索到但多数通道遗漏的案例),为训练提供高质量的硬负例,无需额外标注成本。
贡献三:异构信号的可调融合。 通过两层加权(组件内权重 + 组件间权重)将语义、排序位置和行为三种本质不同的信号统一到连续标签空间,避免了硬阈值划分造成的信息损失。
4. 实验结果分析
离线评估(30,303 查询,K=25):
| 指标 | 基线 | Rel-only | Rel+Eng |
|---|---|---|---|
| Avg Relevance@25 | 3.040 | 3.263 (+7.3%) | 3.277 (+7.8%) |
| Precision@25 | 0.794 | 0.873 (+10.0%) | 0.877 (+10.5%) |
| NDCG@25 | 0.867 | 0.913 (+5.4%) | 0.916 (+5.7%) |
核心发现:相关性标签贡献了绝大部分提升(10% Precision),行为信号的增量仅为 0.5%,但方向一致。这验证了"相关性为主"设计的有效性。
在线 A/B 测试:
- 广告曝光量 +0.60%(p=0.03)✓
- 加购率 +0.99%(p=0.009)✓✓
- 搜索页面浏览量/会话 +0.63%(p=0.03)✓
- 购物车页面浏览量/会话 +0.87%(p=0.02)✓
在线收入指标(+0.45%)和 GMV(+0.37%)未达统计显著性,但方向正向。加购率 +0.99% 是最强的转化信号,表明更好的相关性提升了用户的购买意向。
定性分析: 统一监督在保证相关性的同时,将 top-decile 高参与度商品的占比提升了 7.0 个百分点(在第 90 百分位参与度阈值下)。
5. 局限与未来方向
论文明确指出的局限:评估限于 K=25(固定广告位数量),不同广告位数量下的效果未验证。超参数选择(α=0.6, β=0.3, γ=0.1; μ_rel=0.85, λ_eng=0.15)通过交叉验证确定,但缺少灵敏度分析。
未充分讨论的局限:(1) 级联 cross-encoder 标注本身的准确性和偏差问题——标注模型(Gemma/LLaMA)的错误会系统性传播到检索器训练中;(2) 多通道共识依赖于现有系统的能力边界,可能无法发现全新的检索模式;(3) 行为信号的时效性——用户偏好漂移可能导致历史行为权重需要动态调整。
6. 工业实践意义
直接可采纳的设计原则: "相关性优先"的框架设计理念可直接迁移到 UGC 搜索场景。在社区搜索中,用户点击同样受标题党、热度偏置等影响,以级联 LLM 标注替代纯行为信号定义正样本可以显著提升检索相关性。
硬负例挖掘策略: 多通道检索共识度用于硬负例挖掘是一个零成本的实践——只要系统有多路召回通道(如 BM25 + 向量检索 + 倒排索引),就可以利用通道间的不一致性发现训练盲区。
权重分配参考: 0.85:0.15 的相关性/行为权重分配为类似系统提供了良好的起始点。论文实验表明行为信号的增量极为有限(0.5% Precision),提示在行为数据稀疏的场景下可以考虑更高的相关性权重甚至纯相关性训练。
部署考量: bi-encoder (MiniLM) 架构保持了低延迟优势,训练复杂度集中在离线标注阶段(级联 cross-encoder),不增加在线推理开销。整体方案适合中小规模搜索系统采用。