- 1. Meta Adaptive Ranking Model: Bending the Inference Scaling Curve to Serve LLM-Scale Models for Ads · 📖 深度解读
Meta 公开了其广告排序系统 Wukong Turbo 的核心架构升级:将排序模型扩展至 LLM 级别(万亿参数)的同时,通过推理效率优化使计算成本从线性降为亚线性。核心创新包括:从逐对 user-ad 打分转为 request 级别批处理(一次计算 user 信号复用给所有候选广告)、选择性 FP8 量化实现 35% 模型 FLOPs 利用率、多 GPU 卡分片支撑万亿级 embedding 表…
出现于日报:04-07
- 2. Robustness Risk of Conversational Retrieval: Identifying and Mitigating Noise Sensitivity in Qwen3-Embedding Model · 📖 深度解读
本文研究了 Qwen3-Embedding 模型在对话式短查询检索场景下的鲁棒性问题。在不使用 query prompting 的情况下,结构化对话噪声会侵入 top-k 结果,导致语义无关内容排名异常升高。该漏洞在 Qwen3 中比早期版本和其他稠密检索模型(如 BGE、E5)更为显著,且在标准 clean-query 基准测试中不可见。研究发现,轻量级的 query prompting 策略可以有效抑制噪声入侵,恢复排序稳定性…
出现于日报:04-10
- 3. DiffuRank: Effective Document Reranking with Diffusion Language Models · 📖 深度解读
本文首次系统探索了扩散语言模型(dLLMs)在文档重排序中的应用,提出 DiffuRank 框架,实现了三种重排序策略:(1) pointwise 方法利用 dLLMs 估计 query-document 对的相关性分数;(2) 基于 logit 的 listwise 方法联合评估多文档相关性并直接从模型 logit 导出排序列表;(3) 基于排列的 listwise 方法…
出现于日报:04-07
- 4. Efficient Learning of Sparse Representations from Interactions
本文提出一种从用户交互数据直接学习高维稀疏 embedding 的训练策略,修改 ELSA 协同过滤自编码器来生成稀疏表示,取代传统稠密 embedding。实验实现了高达 10 倍的 embedding 压缩而不损失精度,100 倍压缩仅损失 2.5% 精度。学到的稀疏表示还展现出与模型潜空间对齐的可解释结构,可用于分群级别的推荐和检索。代码和 demo 已开源。
出现于日报:04-07
- 5. Improving Neural Retrieval with Attribution-Guided Query Rewriting
本文提出一种基于梯度归因(gradient-based token attribution)引导 LLM 进行查询改写的方法,用于改进神经检索。核心思路是从检索器中计算各 token 的梯度归因分数,识别查询中语义薄弱或误导性的成分,然后将归因信息作为 prompt 引导 LLM 精确地澄清和改写这些成分。在 BEIR 多个数据集上的评估表明,该方法能持续提升检索效果,尤其在查询表述不精确的场景下改善显著。
出现于日报:04-10
- 6. DGAI: Decoupled On-Disk Graph-Based ANN Index for Efficient Updates and Queries
针对十亿级近似最近邻搜索(ANNS)的磁盘图索引,提出解耦存储架构 DGAI:将重型向量数据与轻量图拓扑物理分离。现有系统的耦合存储在索引更新时产生大量冗余 I/O,DGAI 通过解耦设计,配合相似性感知动态布局优化和基于层级 PQ 的两阶段查询机制,实现了插入 8.17 倍、删除 8.16 倍的性能提升,混合工作负载下峰值查询延迟降低 67%。
出现于日报:04-07
- 7. LLM4Ranking: An Easy-to-use Framework of Utilizing Large Language Models for Document Reranking
LLM4Ranking 是一个统一的 LLM 文档重排序框架,支持 pointwise、pairwise、listwise 三种主流重排序策略,兼容开源和闭源 LLM。提供简洁可扩展的接口,以及开箱即用的评估和微调脚本。在多个标准检索数据集上进行了全面实验,覆盖不同模型规模和排序策略的组合对比。代码完全开源,降低了 LLM 重排序的实验和落地门槛。
出现于日报:04-07
- 8. WebExpert: domain-aware web agents with critic-guided expert experience for high-precision search
WebExpert 提出了一个领域感知的 Web 搜索 Agent,包含三个关键组件:(1) 句子级经验检索与主题合并、规则蒸馏;(2) SchemaLight 自动化 facet 归纳,从弱监督中引导时间、地域、政策、行业等 facet,替代手工词表;(3) 基于偏好优化的搜索规划,联合改进查询规划和检索。在推理时,轻量级经验门控根据 active facets 偏向解码,低检索置信度时回退…
出现于日报:04-10
- 9. AnnoRetrieve: Efficient Structured Retrieval for Unstructured Document Analysis
提出 AnnoRetrieve,一种从 embedding 范式转向结构化标注的新型检索方法。通过 SchemaBoot 自动为非结构化文档生成结构化 schema,再用结构化语义检索(SSR)基于标注进行精准匹配,替代传统的向量相似度检索。该方法大幅减少 LLM 调用次数和整体成本,在实际数据集上实现高精度检索,同时解决了 embedding 检索在粗粒度语义匹配上的局限。
出现于日报:04-07
- 10. Overcoming the "Impracticality" of RAG: Proposing a Real-World Benchmark and Multi-Dimensional Diagnostic Framework
针对企业级 RAG 系统评估的多维复合问题,提出四轴难度分类法(推理复杂度、检索难度、文档结构多样性、可解释性要求),构建面向真实场景的 RAG benchmark。研究发现高性能模型在实际部署中常常失败,高分不等于高可用。该工作被 AAAI 2026 Workshop 接受,为 RAG 系统的实用化评估提供了标准化框架。
出现于日报:04-07