- 1. LORE: A Large Generative Model for Search Relevance
LORE 是阿里巴巴提出的面向电商搜索相关性判断的大规模生成式模型框架，已在生产环境部署超过三年。该方法将搜索相关性分解为知识推理、多模态匹配和规则遵循三种核心能力，采用两阶段训练范式：先通过 CoT 合成数据进行推理能力预训练，再使用 RL 偏好对齐进行精调。线上 A/B 实验显示相关性指标提升 +27%，同时提出了 RAIR 基准测试集和高效的模型部署迁移策略。
出现于日报：03-17
- 2. Probe-then-Plan: Environment-Aware Planning for Industrial E-commerce Search · 📖 深度解读
现有 LLM 搜索范式面临「盲目性-延迟困境」：query 改写不感知检索能力与实时库存，产生无效计划；而 deep search agent 依赖多轮工具调用，延迟达数秒，与工业亚秒级 SLA 不兼容。本文提出 Environment-Aware Search Planning (EASP) 框架，核心是 Probe-then-Plan 机制：用轻量级 Retrieval Probe 先探测检索快照…
出现于日报：03-18
- 3. Aligning Language Models from User Interactions
提出一种从多轮用户交互中直接学习的自蒸馏方法。核心思路是：当用户给出后续反馈（如纠正、追问）时，模型在看到反馈后能修正自身行为。该方法利用这种"事后诸葛"能力，对比模型在看到用户反馈前后的 token 分布差异，将差异蒸馏为策略更新信号。这种方式无需人工标注偏好对，可直接从大量已有的用户交互日志中学习，实现规模化对齐。
出现于日报：03-17
- 4. SmartSearch: How Ranking Beats Structure for Conversational Memory Retrieval
本文针对对话记忆检索任务，证明了基于 LLM 的结构化摄取（ingestion）和学习式检索策略均非必要。SmartSearch 使用完全确定性的 pipeline：NER 加权子串匹配做初步召回，基于规则的实体发现做多跳扩展，CrossEncoder+ColBERT 分数融合做最终排序（唯一的学习组件，CPU 上约 650ms）。关键发现：召回率达 98.6%，但若无智能排序…
出现于日报：03-18
- 5. OPERA: Online Data Pruning for Efficient Retrieval Model Adaptation · 📖 深度解读
稠密检索模型做领域微调时，按相似度删掉“差”的训练对会让排序涨、召回掉，因为删对之后 query 的抽样概率跟着变了，正样本少的 query 甚至整个消失。OPERA 不删数据，只在 query 和文档两级调采样概率，并随训练推进逐渐偏向高分样本。在 bge-large-en-v1.5 和 8 个数据集上，动态版平均 NDCG@10 从 0.535 到 0.545，在 FEVER 上用不到一半的迭代追平标准微调…
出现于日报：03-20
- 6. Asynchronous Verified Semantic Caching for Tiered LLM Architectures
提出 Krites，一种面向 LLM 搜索系统的异步语义缓存策略。针对生产环境中静态-动态分层缓存设计的核心问题——单一 embedding 相似度阈值导致保守策略漏掉安全复用机会、激进策略则产生语义错误——Krites 在关键路径上保持标准阈值策略不变，对落在阈值边缘的请求异步调用 LLM 作为语义裁判，验证后扩展静态缓存覆盖。这种设计在不增加服务延迟的前提下显著提升缓存命中率。
出现于日报：03-17
- 7. NanoVDR: Distilling a 2B Vision-Language Retriever into a 70M Text-Only Encoder for Visual Document Retrieval
针对视觉文档检索中查询端和文档端编码器不对称的问题，NanoVDR 将 2B 参数的 VLM 检索器蒸馏为仅 70M 参数的纯文本编码器用于查询编码。核心洞察是查询通常只是短文本字符串，无需视觉理解能力，因此可以大幅压缩查询编码器。通过系统对比 6 种蒸馏目标、3 种骨干网络在 22 个 ViDoRe 基准数据集上的表现，发现逐点余弦对齐在查询文本上一致优于基于排名和对比学习的方法。最终实现 28 倍参数压缩，延迟大幅降低。
出现于日报：03-17
- 8. Negation is Not Semantic: Diagnosing Dense Retrieval Failure Modes for Trade-offs in Contradiction-Aware Biomedical QA
基于 TREC 2025 BioGen Track，系统诊断稠密检索在否定语义上的失败模式。发现「简单悖论」(Simplicity Paradox)：复杂的对抗性稠密检索策略在矛盾检测任务上表现灾难性（MRR 仅 0.023），原因是「语义坍缩」(Semantic Collapse)——否定信号在稠密表示空间中消失。研究使用 SciFact 数据集构建代理评估框架，系统优化检索架构。
出现于日报：03-20
- 9. Task-Specific Knowledge Distillation via Intermediate Probes
提出一种绕过 LLM 输出层瓶颈的知识蒸馏方法：在教师模型的冻结中间层上训练轻量探针（probe），用探针的预测而非教师的输出 logits 作为学生模型的监督信号。核心发现是 LLM 中间层表征往往编码了正确答案，但经过词表投影层后信息会丢失或扭曲。在 AQuA-RAT、ARC Easy/Challenge 和 MMLU 四个推理基准上取得一致提升，特别是在数据有限场景下效果显著。
出现于日报：03-17
- 10. 100x Cost & Latency Reduction: Performance Analysis of AI Query Approximation using Lightweight Proxy Models
本文研究如何用轻量级代理模型近似数据仓库中基于 LLM 的 AI 查询，从而将推理成本和延迟降低 100 倍。作者提出通过训练小型代理模型来模仿 LLM 的语义推理行为，在精度损失极小的前提下大幅降低 SQL+LLM 查询的成本。实验表明代理模型在多种复杂查询任务上均能接近 LLM 精度，同时吞吐量提升两个数量级。
出现于日报：03-19