- 1. Large Reasoning Embedding Models: Towards Next-Generation Dense Retrieval Paradigm
提出 Large Reasoning Embedding Models (LREM),一种"先推理再嵌入"的新型稠密检索范式。针对电商搜索中 query 与商品之间词汇差异大的难题,模型先通过 Chain-of-Thought 推理理解 query 语义,再生成高质量 embedding。采用两阶段训练:第一阶段用 Query-CoT-Item 三元组做 SFT + InfoNCE 联合优化;第二阶段用强化学习进一步优化推理链路。
出现于日报:03-08
- 2. MICE: Minimal Interaction Cross-Encoders for efficient Re-ranking · 📖 深度解读
从 cross-encoder 中剥离非必要 token 交互,衍生出 MICE 轻量级 late-interaction 架构。
出现于日报:03-05
- 3. Relevance Matters: A Multi-Task and Multi-Stage Large Language Model Approach for E-commerce Query Rewriting
在京东搜索中提出多任务多阶段 LLM query 改写框架,将相关性任务注入改写过程。
出现于日报:03-05
- 4. Where Relevance Emerges: A Layer-Wise Study of Internal Attention for Zero-Shot Re-Ranking
研究如何利用 LLM 内部注意力机制实现更高效的文档重排序,无需传统的文本生成过程。发现 Transformer 各层的相关性信号呈现稳定的「钟型曲线」分布规律,据此提出 Selective-ICR 方法,在不牺牲排序质量的前提下将推理延迟降低 30-50%。
出现于日报:03-02
- 5. ReFeed: Retrieval Feedback-Guided Dataset Construction for Style-Aware Query Rewriting
提出基于检索反馈的数据生成框架,自动构建风格感知的 query 改写训练数据,使改写模型能匹配目标文档的领域风格。
出现于日报:03-04
- 6. GPU-Native Approximate Nearest Neighbor Search with IVF-RaBitQ: Fast Index Build and Search
提出 GPU 原生的 IVF-RaBitQ 向量检索方案,实现快速索引构建与高吞吐搜索。
出现于日报:03-03
- 7. Scaling Laws For Dense Retrieval
首次系统研究稠密检索模型的 scaling law,发现检索性能随模型参数量和标注数据量遵循精确的幂律关系。
出现于日报:03-04
- 8. Contrastive Retrieval Heads Improve Attention-Based Re-Ranking
提出 CoRe heads 方法,从 LLM 注意力头中筛选对检索最有判别力的子集用于重排。
出现于日报:03-05
- 9. Reconstructing Content via Collaborative Attention to Improve Multimodal Embedding Quality
提出 CoCoA 范式:通过协作注意力机制和 EOS 内容重建任务,将 MLLM 的因果注意力改造为全局紧凑表征,大幅提升 embedding 质量。
出现于日报:03-04
- 10. Qwen3-VL-Embedding and Qwen3-VL-Reranker: A Unified Framework for State-of-the-Art Multimodal Retrieval and Ranking
阿里推出 Qwen3-VL-Embedding 和 Qwen3-VL-Reranker 两个互补的模型系列,用于多模态检索与排序。Embedding 模型采用多阶段训练(对比预训练到重排模型蒸馏),支持灵活维度和 32K token 输入;Reranker 使用交叉注意力机制做细粒度相关性评分。提供 2B 和 8B 两种规格,支持 30+ 语言。
出现于日报:03-02