02 4.40
多数 RAG 的召回仍靠 BM25 或向量相似度,召回漏掉的证据,生成模型再强也找不回来。DecisionRAG 不用召回模型,而是让一个决策模型像人逛图书馆一样,从主题到页面再到段落逐层往下找,每层的候选放进同一个上下文一起判。在 268 万个维基百科段落上,它的 Hit@1 比 Qwen3-Embedding-8B 召回加 reranker 高 17.4 个点,每个 query 检索约 1.7 秒。
03 4.40
搜索 agent 发出的子查询常常只有几个关键词,只看子查询的 reranker 会把字面相似、对原问题没用的文档排到前面。ACARe 把原问题和 agent 的推理过程一起交给 reranker 判断。关键对照是:不改 Qwen3-Reranker-4B 的参数,只在输入里加上原问题,小 agent 的答题准确率就从 48.2% 升到 54.8%,专门微调后到 57.6%。大部分收益来自给 reranker 上下文本身,五个 agent 上搜索次数也都更少。
04 4.30
用大模型改写 query 时,常见做法是对所有 query 用同一条指令,但改写往哪个方向写,其实取决于要搜的语料。SkillQR 离线把语料聚类,让大模型为各类文档总结出几条改写指令,比如面向编程题语料,要求列出解题需要的数据结构和算法;查询时由同一个模型挑一条再改写,不需要训练数据。自动挖出的技能效果和人工写的学科指令持平;14B 版每个 query 改写约 38 秒,迭代改写的 ThinkQE 要 85 秒,说明省掉多轮迭代后速度优势明显。
05 4.15
想用大模型替换 RAG 里的 reranker,这篇的结论是先把现有 reranker 调好。作者在相同候选上比较 27B 决策模型 PPLX Decider 和 0.6B 的 Jina v3.5:默认设置下 PPLX 只有 44.1% 的请求能正常返回,只看成功请求它更好,把失败算进来就明显落后。把输入预算平均分给每篇候选、只保留开头部分后,它能追平 Jina;可 Jina 用同样的截断方式,延迟就降到 245 ms,显存也只有它的零头。
06 4.10
RAG 投毒的防御论文常报告近乎完美的检测率,这篇发现很大程度上是数据集构造方式带来的捷径:PoisonedRAG 的代码会把目标问题原样拼在每段毒文本开头。只删掉这段前缀,已发表的过滤器 RAGuard 的漏检率就从 0.191 升到 0.763,说明它主要在认这段前缀。作者建议报告检测结果时,同时给出毒数据的构造特征和实际部署阈值下的误报率,否则数字没有意义。
07 4.00
搜索型模型每搜一次都要判断证据够不够:回答、再搜,还是放弃。常见做法交给模型整体判断,容易在提到了所有实体、却缺一个关键事实时就作答。Certify 先把问题拆成几条事实要求,写明哪些事实合起来能推出下一条,再逐条检索;只有段落讲的确实是问题里那个实体,才算满足这条要求。所有要求都能推出答案时才作答,不够时说清缺哪条。在 2,100 万个维基百科段落上,用它给出的最小证据集作答,正确率 80%,用全部召回段落只有 57%。
08 3.75
用强化学习教模型“不会就不答”时,常见奖励对答错一律同样扣分,对放弃也给固定奖励,分不出高置信的错和低置信的错。CalibraRL 对作答的回复加一项按置信度和对错计算的 Brier 惩罚,越自信地答错扣得越多;对放弃,则用同一问题其他采样的正确率估计这题能不能答好,答不好时放弃才奖励更多。它不需要额外标注,在三个问答数据集上降低了幻觉,平均校准误差下降 30.8%。
09 3.75
金融、工业等领域的知识图谱大多没有问答标注,想用强化学习提升大模型在图谱上的多跳推理就缺训练数据。EoG 让同一个模型轮流扮演出题者和解题者:先在图谱上采样推理结构并执行逻辑查询得到准确答案,出题者据此写出多跳问题;解题者对同一道题答多次,答案时对时错的题给出题者的奖励最高,太易或太难的题奖励低,题目就始终卡在解题者能力边缘。在 Freebase、Wikidata 和一个工业图谱的六个基准上,它都超过了提示、检索和 agent 类方法。
10 3.85
化工配方专利里,相关段落和干扰段落常常提到同样的化学物质,区别在于它们起什么作用,通用向量模型很难分辨。FormBench 用 5.5 万多个 query 来测这一点,干扰段落是按材料分类体系挑的,和正确段落提到的化学成分高度重合、作用却不同。结果很反常:OpenAI 的商用向量模型在难语料上 nDCG@10 只有 0.009,BM25 有 0.375,说明通用语义空间在领域内部挤成了一团;只有用这批三元组做过领域微调的 Qwen3-Embed 超过了 BM25。