Querit-Reranker：用无标注分布适配训练紧凑多语言重排器

1. 问题与动机

现代信息获取系统（搜索、RAG）普遍采用"先召回再重排"（retrieve-then-rerank）流水线：快速的一阶段检索器召回候选，更具表达力的重排器再精修排序后交付。论文的核心观察是——E5-Mistral、BGE-M3、Gemini Embedding、jina-embeddings-v5、Qwen3-Embedding 等强多语言 backbone 已成现代检索/重排的常见起点，但"强 backbone 本身并不保证有效重排"：大规模 ranking 监督能教会通用 query-document 相关性，但在新重排任务上的表现高度依赖训练分布与目标分布（语料、query 风格、相关性粒度）的匹配程度。为每个目标分布收集密集相关性标注代价高昂、多语言场景尤甚；而为每个任务单独适配虽能捕获互补能力，部署多个适配模型或做 runtime ensemble 又会推高 serving 延迟与显存。由此引出中心问题：如何在有限人工标注下，把多语言 backbone 适配成既准确又高效的重排器。作者（中科院计算所 + 百度）以 Querit-Reranker 回应：一套 data-centric 的三阶段无标注适配 pipeline。

2. 方法详解

模型形态：标准 cross-encoder。对每个 query-document 对，输入格式化为相关性判断 prompt：X = [Inst; q; t; c; [CLS]]，Inst 是任务指令、q 是 query、t 与 c 分别是文档标题与正文。backbone 编码后取末位 [CLS] 的隐状态 h_n 作相关性表示，喂入轻量二分类头：p = softmax(W·h_n + b) = [p0, p1]（低/高相关概率），最终排序分 s(q,d) = [-1,1]·pᵀ = -p0 + p1。两个实例：Querit-Reranker-A0.4B 从自研 MoE 基座 Querit-A0.4B（0.4B activated 参数）初始化；Querit-Reranker-4B 从 Qwen3-Embedding-4B 初始化。

训练目标：同一 query 下文档间的 pairwise hinge loss：L_rank = (1/|P|) Σ_{(i,j)∈P} max(0, m(y_i − y_j) − (s_i − s_j))，margin m 被 teacher 分数差缩放——相关性差距越大的 pair 被要求越大的分差。

三阶段 pipeline：

• Stage I（大规模相关性建模）：用开源检索/重排数据 + 去标识化真实业务搜索数据构造广义重排监督，覆盖 web search、多语言检索、QA、重复问题检测、新闻推荐；语种分布 English 52.2% / Multilingual 47.8%（中文 17.5%、日文 11.6%、俄文 9.6% 等）。对每条 query 用 Llama-Embed-Nemotron-8B 召回并打分 top-100，把 embedding 相似度当连续相关性标签；为保多样性，把 teacher 分数范围切成 16 个等宽区间、每个非空区间采一条（空槽用最接近区间中心的候选补齐），再按 teacher 分排序送入 pairwise loss。
• Stage II（无标注合成数据挖掘）：挑 4 个代表性 MMTEB 重排任务——AlloprofReranking、RuBQReranking、T2Reranking、VoyageMMarcoReranking（法/俄/中/日；教育问答、factoid、噪声 web、MS MARCO 式检索）。对每个语料采样文档，用 DeepSeek-R1 API 按任务定制 prompt 生成"文档条件化"合成 query；再复用 Stage I 的 teacher-scoring + 分层采样产出伪 ranking 监督。全程无人工相关性标注；统一 teacher-scoring 把各任务合成 query 汇成共享多任务 ranking 目标，让知识在不同多语言语料间迁移。
• Stage III（SLERP 模型合并）：对不同数据配比/训练 run 的多个 checkpoint 做球面线性插值 slerp(θ_a, θ_b; t) = sin((1−t)Ω)/sinΩ·θ_a + sin(tΩ)/sinΩ·θ_b，Ω = arccos(θ_aᵀθ_b/(‖θ_a‖‖θ_b‖))；对带权重 {w_i} 的 K 个 checkpoint 按 t_i = w_i/Σ_{j≤i} w_j 顺序合并，得到单一可部署模型，无 runtime ensembling 或额外推理成本。

3. 核心技术贡献

(1) 无标注目标分布适配：用"合成 query + teacher 连续软分数"替代人工标注，把通用重排器迁到目标语料/query 风格。关键在于 teacher（embedding 模型）连续分数既当软标签、又通过 16 区间分层采样保证训练 pair 的相关性梯度覆盖，避免合成数据塌到易例；相比 InPars 等纯合成 query 微调，这里把"造 query"与"统一 teacher 打分"解耦，使多任务知识可共享。

(2) 统一多任务 teacher-scoring：不为每个任务训独立 reranker 再事后合并，而是把各任务合成 query 投到同一套 teacher 打分与 pairwise 目标，知识在 checkpoint 合并前就跨语料迁移。

(3) SLERP 参数空间合并：用球面插值而非简单平均合并多 checkpoint，在保留各自表示方向的同时整合互补能力，得到零额外推理成本的单模型——结果是 A0.4B 这种 0.4B activated 小模型也具备有竞争力的多语言重排力。

4. 实验结果分析

评测：8 个 MMTEB 重排任务（6 多语言 + 2 英文）、13 个 BEIR、覆盖 18 语言的 MIRACL；BEIR/MIRACL 统一用 Qwen3-Embedding-0.6B 作一阶段召回、重排 top-100、报 nDCG@10。

• MMTEB（Table 1）：Querit-Reranker-A0.4B 在 MTEB-multilingual-v2 上 Avg 65.84、8 任务综合 61.44，超过 F2LLM-v2-0.6B（60.77）、gte-Qwen2-1.5B-instruct（59.25），体现小模型参数效率。Querit-Reranker-4B 把 MTEB-multilingual-v2 推到 71.08（截至 2026-06-15 官方 MTEB-Multilingual-v2 重排榜 SOTA），综合 8 任务 65.61，WebLINXCandidatesReranking 取最高 30.87，并超过 F2LLM-v2-14B、harrier-oss-v1-27b 等更大的 8B–27B 系统。

• BEIR（Table 2，nDCG@10）：A0.4B 平均 59.28，比一阶段 Qwen3-Embedding-0.6B（54.11）高 5.17 分，明显优于 bge-reranker-v2-m3，在 FEVER、SciFact 拿 second-best；4B 平均 62.29，13 个任务里 7 个排第一，超过 jina-reranker-v3、Qwen3-Reranker-4B，并以更小的 4B backbone 反超 Qwen3-Reranker-8B（61.81）0.48 分。

• MIRACL（Table 3，18 语言）：一阶段 Qwen3-Embedding-0.6B 均值 59.87；A0.4B 提到 67.70（+7.83），4B 进一步到 71.13，比 Qwen3-Reranker-8B 高 2.16 分（backbone 更小）；A0.4B 在 6/18 语言取 second-best、稳超其它 0.6B 级重排器。

整体趋势：同一套配方从 0.4B 平滑放大到 4B 都有效，小模型主打参数效率、大模型刷上限。需留意的对照是——多数增益建立在"已用 Qwen3-Embedding-0.6B 召回 top-100"的可控重排设定上，反映的是二阶段精修能力而非端到端召回。

5. 局限与未来方向

作者在 Limitations 明确：(1) 没有显式优化跨语言（cross-lingual）重排或对齐目标，多语言能力主要来自 Stage I（开源多语言 + 去标识私有数据）与 Stage II 的任务定向挖掘；训练数据没有专门构造 query 与 document 异语种的 cross-lingual pair、也无显式语言对齐损失，故在低资源语言或跨语言检索上可能表现不均；未来计划构造 cross-lingual 重排数据并引入对齐目标。(2) 受资源所限，高质量合成数据挖掘只覆盖 4 个 MTEB-multilingual-v2 语料（法/俄/中/日），未覆盖 MMTEB 全部语言与任务，扩展到全量 MMTEB 的效果仍待验证。一个论文未展开但值得注意的点：teacher 用的是 embedding 模型（Llama-Embed-Nemotron-8B / Qwen3-Embedding），软标签质量上限受 teacher 自身相关性判断能力约束。

6. 工业实践意义

对搜索/推荐落地最直接的可借鉴点：

• 无标注适配范式可直接搬到社区/垂类搜索：标注稀缺时，用"开源 + 去标识业务数据"先建通用相关性，再用 LLM（DeepSeek-R1）按本域语料造文档条件化 query、用 embedding teacher 连续打分做无标注适配——省掉昂贵人工相关性标注，正对标 UGC 短文本搜索的标注痛点。

• teacher 软标签 + 分层采样是控制造数质量的实操要点：把 teacher 分数切 16 区间均匀采样，保证训练 pair 覆盖从强相关到弱相关的梯度、避免合成集偏易例，这套采样策略可直接复用到自家蒸馏。

• SLERP 合并多 checkpoint 给"多业务/多任务重排器如何收敛成单模型上线"提供了零推理开销的工程路径：不必为每个场景部署独立模型或做 ensemble，球面插值合并即可省显存省延迟。

• 体量与部署：A0.4B（0.4B activated MoE）在多语言重排上已能压过 1.5B 级模型，适合放在对延迟敏感的精排/重排链路；4B 版以小 backbone 反超 8B 重排器，说明"重排导向的后训练配方"比单纯堆 backbone 规模更划算。需注意论文增益是在 top-100 重排设定下度量的二阶段能力，线上还要结合自家一阶段召回质量评估端到端收益。