- 1. KaLM-Reranker-V1: Fast but Not Late Interaction for Compressed Document Reranking · 📖 深度解读
重排序模型多把 query 与 passage 拼接做联合编码,计算耦合限制了部署效率与灵活性。KaLM-Reranker-V1 提出 "fast but not late-interaction"(FBNL)方案:基于 encoder-decoder,用 encoder 配合 Matryoshka 池化对 passage 预编码,decoder 编码 system/user instruction 与 query intent…
出现于日报:06-24
- 2. Scaling Dense Retrieval with LLM-Annotated Training Data: Structured Mining and Progressive Curriculum for E-Commerce Sponsored Search · 📖 深度解读
针对电商赞助搜索下稠密检索训练数据的难题——点击信号有位置偏置、长尾 query 稀疏,人工标注上亿 query-item 对成本不可行。核心观察是多个异构检索系统对大部分召回结果存在分歧,这种分歧天然提供结构化训练信号:所有系统一致的是 easy positive、只有词面系统能找到的是 hard positive、只骗过单一系统的是 hard negative…
出现于日报:06-25
- 3. Dissecting Agentic RAG: A Component Ablation for Multi-Hop QA with a Local 7B Model
agentic RAG 常叠加自适应检索路由与多轮检索循环,但各组件实际贡献并不清楚。作者用本地 Qwen2.5-7B-Instruct 在 HotpotQA distractor 开发集 5000 题上做受控消融:完整 pipeline EM=53.2%/F1=61.6%,对比单轮 dense 检索基线 EM=43.1%/F1=54.0%…
出现于日报:06-24
- 4. Stellar: Scalable Multimodal Document Retrieval for Natural Language Queries · 📖 深度解读
Stellar 针对多模态文档检索中 late interaction(多向量 token 级表示)内存开销过大、难以规模化的问题,提出把 token 级文档 embedding 存到磁盘、检索时只把候选 token embedding 调入内存。两个核心组件:LRF(Lexical Representation-based Filtering)把 MLLM 微调成稀疏编码器产出词项表示先做粗筛缩小候选集…
出现于日报:06-22
- 5. AutoRelAnnotator: Calibrated Model Cascades for Cost-Efficient Relevance Evaluation in Sponsored Search · 📖 深度解读
针对搜索排序系统所需的相关性标注(训练数据准备、NDCG 评估、badcase 归因),人工标注慢、通用 LLM 在领域任务上精度不足。论文提出 calibrated model cascade:把 query 按难度路由经过逐级增大的微调分类器,再叠加 per-class isotonic calibration 校准。作者拆解收益来源——领域微调贡献约 20 个准确率百分点,级联近似不损精度但把算力减半,校准再提供小而稳定的增益。
出现于日报:06-26
- 6. E2Rank: Your Text Embedding can Also be an Effective and Efficient Listwise Reranker · 📖 深度解读
文本 embedding 模型检索高效,但排序精度不及专用 reranker,尤其落后于 LLM listwise reranker。E2Rank 让同一个 embedding 模型同时承担检索与 listwise 重排:在 listwise ranking 目标上继续训练,把"原始 query+候选文档"拼成的排序 prompt 当作被 top-K 文档信号增强的 query embedding(类似…
出现于日报:06-23
- 7. Adaptive Re-Ranking
现代 IR 的 retrieve-then-rerank 流水线对所有 query 无差别套用重型 cross-encoder,简单 query 上浪费算力并抬高延迟。论文提出 Adaptive Re-Ranking,用基于效用(utility)的标注框架做 per-query 成本感知路由,在 BM25(稀疏)、MiniLM-L6-v2(轻量重排)、BGE-v2-m3(重型神经重排)三档间选择…
出现于日报:06-26
- 8. HAKARI-Bench: A Lightweight Benchmark for Comparing Retrieval Architectures and Efficiency Settings under Unified Conditions
RAG 与语义搜索普及后,选择 embedding 与检索配置越来越难,而大型检索 benchmark 太重、开发期难以反复跑。HAKARI-Bench 把现有检索套件重构为小数据集(Nano-sets):35 个 benchmark、551 个任务、覆盖 43 种语言,统一格式下可在相同条件比较五类检索族(BM25、dense、sparse、late interaction、reranker)及其效率变体(降维、量化、重排)…
出现于日报:06-24
- 9. Improving Long-Context Retrieval with Multi-Prefix Embedding
长文档检索存在张力:单向量 embedding 丢失细粒度信息,token 级多向量方法存储开销过大。MPE(Multi-Prefix Embedding)把文档按 EOS token 切成 chunk,用一次 causal 前向编码整段序列,在每个 prefix 边界各取一个 embedding,从而保留跨 chunk 上下文、支持 chunk 级 MaxSim 匹配,且仅用文档级相关性标签训练…
出现于日报:06-24
- 10. Scaling Laws for Cross-Encoder Reranking
语言模型与一阶段检索的 scaling law 已有研究,但重排尚无。本文首次系统刻画 cross-encoder reranker 在 pointwise/pairwise/listwise 三种目标下的 scaling law:排序质量随模型规模与训练曝光量呈可预测的幂律,可用小规模实验外推大模型。用最多 150M 参数的模型,在 MSMARCO-dev 与 TREC DL 上外推出 400M 与 1B reranker 的效果…
出现于日报:06-23