- 1. Too much of a good thing: Why 20 candidates beat 200 when reranking search results
给重排模型的候选越多越好吗?Elastic 旗下 Jina 的团队在二十多个检索基准上测了自家的列表式重排模型,答案是否定的。第一阶段用 BM25 时,重排前 100 个候选效果最好,平均能减少约五分之一的错误,再往上加反而变差。第一阶段换成语义检索时,最佳点提前到 20 个,收益也小得多,送进 200 个的平均效果甚至不如不重排。原因在于列表式模型一次看完整个候选列表,候选太多,注意力被摊薄,噪声越积越多…
出现于日报:11-16
- 2. RAG-FGO: Dynamic Optimization of Query-Rewriting Agents for Generative RAG · 📖 深度解读
检索增强生成里,改写用户问题本该让检索更准,可检索反馈常常很吵,提示词和温度这类解码参数又要一起调,固定策略遇到意思复杂的问题很容易失效。作者把改写看成不可求导的黑盒优化:把提示模板和解码参数当成可迭代调整的改写智能体,既做大范围搜索跳出局部最优,又做小范围微调,并用一个保留优胜策略的记忆池来抵抗噪声。以 GPT-4o-mini 为生成模型,在六套问答基准上,回答级 F1 平均从最强检索基线的 68.9 提到 77.1…
出现于日报:11-17
- 3. AntEmbed: Dual-Mode Multimodal Embedding Model for Efficient and Fine-Grained Retrieval · 📖 深度解读
多模态检索里有两种 embedding。判别式的直接编码原始输入,快,但抓不住细粒度的语义。生成式的先让模型推理一遍查询意图和区分证据,再编码,更准,可每次查询都要多跑一次推理。苏州大学和蚂蚁集团的 AntEmbed 想让一个模型两种都能用,而且共用同一个候选索引。它把原始输入和加上推理内容的输入当成同一样东西的两个视角,用多正例对比学习拉进同一个向量空间,再把推理视角给出的候选相似度分布蒸馏给原始表示,让不推理的模式也变强…
出现于日报:11-16
- 4. CURATOR: Scalable Fine-grained Evidence Selection for Retrieval-Augmented Generation using Decision Models · 📖 深度解读
RAG 通常把检索到的整段文字都塞给大模型,可真正能回答问题的往往只有其中几句。挑出这几句并不容易:一句话单看像是无关,要结合其他检索内容才知道该不该留。逐句带着全部上下文判断又太贵。决策模型能在一次推理里同时给很多候选句打分,每个判断都看得到周围的句子,但作者发现,同时要做的判断越多,它分辨有用证据的能力越差,而一次检索常常就带来几百个候选句。CURATOR 专门训练决策模型从大候选池里挑出数量不定的支撑句,保住一次打分的效率…
出现于日报:11-16
- 5. Explanations that Transfer: Interpreting Medical Retrieval with Sparse AutoEncoders · 📖 深度解读
医学问答要先从大量文献里把相关段落找出来,可现在常用的稠密向量几乎无法解释,针对某一批语料微调后又容易在新的临床文集上掉点。作者用稀疏自编码器把稠密文本向量拆成可解释的特征,训练时既要能重构原向量,又用对比损失保住查询和文档之间的相关性。在医学训练集 CURE 上,用 BGE 向量时,排序指标 NDCG@10 从原来的 53.06 提到 61.87…
出现于日报:11-17
- 6. UMER: Unifying Embedding and Ranking via Pair-Aware Discriminative Reasoning for Universal Multimodal Retrieval
用多模态大模型做 embedding 时,近来流行先让模型写一段思维链再编码,把中间的语义证据注入表示。问题是这些思维链对查询和候选各写各的,看不到和正例很像的那个难负例,也就说不出正例为什么对、难负例差在哪。UMER 改成成对推理:把查询和候选放在一起比较,写出符合指令的匹配证据和不符合的差异证据。同一个 MLLM 既学能单独建索引、做全库检索的 embedding,也学成对的相关性判断,两种能力再互相蒸馏可靠的偏好…
出现于日报:11-16
- 7. AI-Voyager: A Public-Interest System for Human-AI Civic Reasoning to Contest and Shape the Rules That Govern AI
政府正在给人工智能定规则,可受影响的人往往还没来得及追问,条文就已经写成自动化决策或伤害的定义。作者做了一个面向公众的系统,把城市到国家的数千份治理文件做成保留页码和版本的段落,并用有范围的智能体检索来核对每一句引用。居民可以查本市招聘用人工智能的规定,也可以上传本国战略并起草修改。在需要先找到相关文件的新问题上,宏平均召回率达到 83.0%,不做迭代检索则只有 73.7%。用户研究里,多数人提出的修改是在问条款到底会怎么落实…
出现于日报:11-17
- 8. MeReader: An Offline, Privacy-Preserving, Progress-Aware AI Assistant for Narrative eBook Reading
用大模型陪人读书时,如果把整本书一次性送进模型,后面的情节很容易被提前说出来,而且常要上传到云端。作者做了一个可离线运行的阅读助手,检索和生成都被限制在读者已经读到的位置,并把向量相似、关键词匹配和摘要向量合在一起用。在三本英文小说的理解题和剧透检查上,中等大小的本地模型可以把理解质量做到与更大模型相近,最好的 BERT F1 大约为 0.74 到 0.75,单题大约 30 秒…
出现于日报:11-17
- 9. Towards High-Performance Multimodal Discovery: Evaluating Retrieval Efficacy and Operational Scalability in Digital Libraries
大型数字图书馆里,很多资料是图文混排的扫描页,全文倒排索引对图、表和版式几乎看不见,光靠识别出来的文字会漏掉关键信息。作者把整页图像做成同时包含文字和视觉语义的向量,再用向量库做检索,并比较了几种相似度算法。在完整基准上,余弦相似度的 MRR 达到 0.801,明显好过欧氏距离的 0.418,也更适合带图或表格的问题。检索精度本身并不高,还需更好的重排…
出现于日报:11-17
- 10. Can You Trust Your Finance Agent? Drift, Diagnosis and Auditable Intervention on One Shipped Financial Research Agent
别人做好的金融智能体,排行榜上的一个分数很难告诉你这套系统稳不稳、出错该谁改、改完能不能信。作者拿一套未调参的参考智能体反复跑同一批题目,通过的评分细则从 105 条变到 123 条,费用也会明显波动。按预先订好的分类看,多数失败出在指令层,其次才是工具和模型,没有一条该归到数据。一个只看轨迹就改一处、过线才保留的优化环,按费用目标能把预留测试题上的花费降到原来的 0.34 倍,准确率仍在噪声范围内…
出现于日报:11-17