H2CE：语义与数值共同决定相关性的两阶段重排

原文：https://arxiv.org/html/2610.11277 。本解读依据全文第 3—6 节及表 2—10；作者来自 Amazon 与 University of Trento。论文研究本地 POI 搜索，社区 UGC 的迁移建议属于本文分析，尚未经作者验证。

1. 问题与动机

同一条本地查询可能同时要求实体匹配、空间距离与服务质量。作者用“埃菲尔铁塔附近的真正意大利餐厅”说明：最近的店可能只部分满足菜系条件，更远的店语义更准确，却可能超出用户愿意步行的范围。因此距离不是全局单调的独立排序依据，其重要程度必须由 query、候选文本及实际差值共同决定。“最近药店”与“最好的意大利餐厅”需要不同权衡，而固定加权无法充分表达这种变化。

原有商业链路使用查询分类、不同检索器、XGBoost 及规则融合。论文指出树模型能处理精确数值，却缺乏深层语义；交叉编码器能联合理解 query 与文本，却不擅长直接比较数字 token。实验也支持领域适配的重要性：零样本 BGE 的 nDCG@5 仅 26.76，领域微调后为 57.86。研究目标是让语义与数值产生条件交互，并在有限服务预算内解决多个合理候选之间的相对顺序。

2. 方法详解

模型的异构特征编码器包含两个并行通道。语义通道把 query、POI 名称、类别、地址，以及数值分桶后的自然语言描述拼成输入，由 BGE-reranker-large 交叉编码器处理。例如距离映射成可步行、附近或远处，评分映射成优秀等描述，评论量映射成有限或充足。距离、评分和评论数分别使用不同词表，防止多个属性的相同桶名造成混淆。这些描述参与 transformer 注意力，让“near me”与距离桶关联，而不是只在输出层调整分数。

精确数值通道保留分桶丢失的幅度信息。距离、0—5 星评分和评论数先经过各自转换器，再进入三个独立 MLP。每个数值编码器采用 GELU 激活，输出 256 维。pointwise 输入每项属性的单个数值，pairwise 输入两个候选的数值对。论文给出转换器的功能，但没有列出所有归一化公式和具体分桶边界，复现时需要自行明确这些细节，不能把示例描述当成完整桶表。

融合层将交叉编码器的 CLS 向量与三个 256 维数值向量拼接，最终维度是 d+768，再用分类 MLP 输出分数。与先把每个通道压成标量再求和相比，这样保留了表示层交互空间。第一阶段对全部 N 个候选独立打分，以二元交叉熵学习相关与不相关，并保留前 K 个。第二阶段同时输入 query、候选 A、候选 B 的文本和描述，精确数值通道也同时看到两者，预测 A 应排在 B 前面的概率。

成对监督来自参考列表的顺序。完整推理对前 K 个候选计算所有有向非自比较，得到矩阵 M；候选 i 的最终得分是对所有其他 j 累加 M(i,j)−M(j,i)，再降序排列。这是连续偏好版的 Copeland 聚合，剩余候选保留首阶段次序。K=10 时需要 90 次成对比较；若全部 100 个候选都互比，则需 9,900 次。训练成对阶段从首阶段前十名随机抽四个，形成 12 个有向对，以贴近线上难候选分布。

训练约使用 50 万条 query。参考 GSL 来自商业本地搜索提供方，经 LLM-as-a-Judge 验证，监督同时包含较小的客户标注集合与较大的 LLM 标注集合。首阶段每 query 最多采样 16 个正例与 16 个负例，两阶段均用二元交叉熵和 1e-5 学习率，在 8 张 A100-40GB 上训练。全文未明确优化器、训练总步数和完整批大小，不能将这些缺项补写成作者设置。

3. 核心技术贡献

第一，粗粒度描述与精确数值同时编码。分桶文本让注意力理解“近”“评价好”等概念，MLP 让模型区分小差异与大差异，两者解决不同问题。仅提供语义文本的二阶段模型 nDCG@5 为 50.13，两个阶段都启用数值 MLP 后为 67.48；这里反映的是数值通道的联合价值，不能把整个差额归因于单一分桶设计。

第二，在隐空间融合异构证据。表 3 的 pointwise 标量融合模型 nDCG@5 为 62.26，隐空间融合为 65.50，增加 3.24 个百分点。模型能在表示层学习“语义准确但稍远”和“很近但不完全匹配”的条件权衡，而非让固定权重处理所有 query。这个增量发生在具体商业数据与给定训练配置下，尚不能视为任意结构化排序任务的保证。

第三，只对高质量候选进行相对比较。二阶段将 nDCG@5 从 65.50 提升到 67.48，RDQ@1 从 64.29 到 67.02。训练时从首阶段前十名抽样尤其值得注意：若使用大量明显错误的全池候选，模型可能学会“相关对不相关”，却无法处理线上“两个都合理”的选择。二阶段的价值在头部排序，而首阶段遗漏的好候选仍无法恢复。

4. 实验结果分析

测试采用 5,743 条本地搜索 query 的组件级数据，隔离上游路由影响。下表的 nDCG 和 RDQ 都按 0—100 展示，差值是百分点。

最显著的跃升先来自领域微调，零样本强模型没有自动超过传统特征模型。XGBoost 基线只使用距离、BM25、名称 n-gram 相似度、评论数与评分五项特征，且距离的重要性为 54.9%。它对比的是这套特定特征基线，不能直接概括为所有工业 LTR 系统的表现。论文用商业参考列表并辅以模型评审，也意味着指标依赖参考顺序的可靠程度。

数值特征消融进一步区分两个阶段：仅首阶段启用数值时 nDCG@5 为 65.46，仅第二阶段启用时为 53.87，均启用为 67.48。首阶段决定谁进入前十，因而先保证过滤质量比只加强最终比较更关键。多正负样本训练相对每 query 一正一负训练，RDQ@5 从 55.54 到 58.68；作者将其联系到更丰富的组内对照及较低梯度方差，但这些是解释，不能写成独立机制验证。

K 值并非越大越好。K=5 的 RDQ@1 为 66.84，K=10 为 67.02，K=20 为 66.55，K=40 为 65.53。大 K 稍微改善深位 nDCG，却可能偏离前十名训练分布并恶化头部质量。完整模型的 nDCG@10 为 65.27，pointwise 为 64.54，仅增加 0.73 点，符合只改变前十名次序的设计。原文没有报告社区帖子、CTR 或线上 A/B 流量收益。

速度表必须按测量条件阅读。表 7 的 K=10 每 query 33.1 毫秒是八卡批量评估总时间除以 query 数，含并行吞吐收益；它不是单请求延迟。单张 A100、batch=1、100 个计时 query 和 10 个预热 query 下，pointwise 中位延迟 64.6 毫秒，完整 H2CE 为 163.2 毫秒，P99 为 263.5 毫秒。不能把 33.1 毫秒当成线上 SLA 依据。

半矩阵优化只计算 45 个无向对，以反向概率等于一减正向概率重建另一半。RDQ@1 从 67.02 到 66.85，MRR 从 77.62 到 77.53，中位延迟降至 120.1 毫秒，约少 26.4%。论文的 TPS 是由中位延迟估算，完整方案约 6.1 TPS/GPU，半矩阵约 8.3；它没有替代真实并发压力测试。

5. 局限与未来方向

作者明确承认服务成本增加：即使使用半矩阵，延迟也从约 65 毫秒增至约 120 毫秒，极紧预算应选择 pointwise。另一个明确局限是监督噪声，参考数据可能含重复 POI、不明确偏好及不完善的判断；人工检查发现某些被罚错的输出其实合理。因此性能上限可能受参考列表限制，继续加强模型未必等价于改善用户体验。

测试和训练数据为私有，作者提出开放的多语言 POISS 使用相同构建方法并做隐私处理，可以用于可比复现，但不保证得到完全相同分数。正文没有公开完整所有转换器实现、分桶边界与训练调度，复现者应记录自己的配置差异。论文结论里部分基线差值的文字表达需要结合表格核对，本解读优先采用可直接相减的表 2 数字。

以下是迁移分析而非作者声明：社区点赞量和评论量受到曝光、年龄及社交传播影响，直接把它们作为质量信号可能进一步强化热门内容。POI 距离有明确物理意义，而 UGC 时效、作者信誉及帖子长度的含义更依赖 query。应检查这些信号是否损伤冷门优质内容，并严格避免使用请求之后的统计信息。

6. 工业实践意义

针对社区短文本搜索，最可先试的是异构编码器，不必立即承担全量成对开销。可将 query、标题与正文片段送入文本通道，同时把发布时间、内容类型、可信度等经过验证的结构化信号保留精确值，并提供有限的、定义清晰的分桶描述。相比固定求和，这让“最新”“入门”“详细经验”等不同意图影响结构化信号使用方式。点赞评论等互动特征需要做曝光和时龄控制，不能默认越大越相关。

验证应保留四个清楚的对照：现有排序器、领域微调的纯文本交叉编码器、数值标量融合、数值隐空间融合。这样可区分收益来自文本适配、数据量还是融合方式。除整体 nDCG 外，应分别看新内容、低热度内容、精确实体查询和模糊意图查询，并与点击率及人工相关性检查对照。原文的大幅相对零样本收益提示，先做领域微调可能比堆复杂架构更划算。

若 pointwise 已能满足延迟，再试前五或前十的成对阶段，并从当前首阶段高分池采样训练，构造真实难比较样本。半矩阵是可选优化，但需要在本域检查顺序反转的一致性与质量损失。还应统计首阶段前十的召回上限，因为第二阶段只能重新排序已有集合，无法补回漏召回帖子。

上线成本要测实际 P50、P99、并发吞吐、批处理等待和 token 长度分布。论文里的八卡摊销时间与单卡单请求时间不同，社区链路还包含召回、特征读取和网络成本。对高频或简单 query 可以保留单阶段，对难 query 在明确预算内启用相对比较；这是建议的实验方案，原文并没有验证 query 自适应路由。最终是否采用应由社区真实流量的相关性、CTR、冷内容覆盖及延迟共同决定，而不是只看私有 POI 基准中的一个增量。