Adaptive Re-Ranking
现代 IR 的 retrieve-then-rerank 流水线对所有 query 无差别套用重型 cross-encoder,简单 query 上浪费算力并抬高延迟。论文提出 Adaptive Re-Ranking,用基于效用(utility)的标注框架做 per-query 成本感知路由,在 BM25(稀疏)、MiniLM-L6-v2(轻量重排)、BGE-v2-m3(重型神经重排)三档间选择。相比全程 BGE,中位延迟降低 1.15–53 倍、平均延迟降低 1.11–5.22 倍。
INSIGHT按 query 复杂度动态选重排档位,是搜索排序降本的直接抓手:简单 query 走 BM25/轻量模型,困难 query 才上重型 cross-encoder。作者坦言路由器在有限监督下难以学好、oracle 分析显示潜力大但落地是难点,提示工业上需重点投资效用标签的构造。社区搜索可借此在大流量低难度 query 上释放 GPU。