边推理边检索的 RAG 方法（如 Search-o1）每一步让大模型根据之前全部的推理过程和子查询，写出下一个子查询去检索。东北大学和清华的这篇论文先做了一个测量：把每个子查询编码成向量，把"相邻两步子查询向量之差"按指数加权累加起来，称为"搜索动量"，然后检验它能否预测下一个子查询偏离原问题的方向。结果是越往后预测得越准，说明后面的子查询倾向于沿着前面已经走的方向继续偏下去。据此提出的 MAPS 做了两处改动：每一轮只把检索到的知识和一段压缩后的推理状态交给模型，不再给它看历史子查询和完整推理过程；每一轮先列出几个互补的检索方向，各写一个子查询并行检索，再把结果合并。在 Qwen3-32B 上，MAPS 在六个问答数据集上的平均 Cover-EM（标准答案是否出现在回答里）为 56.0，最强基线 ParallelSearch 为 49.2，Search-o1 为 43.9。

1. 问题：子查询会沿着已有方向越偏越远

多跳问题需要的证据分散在多篇文档里，所以现在的做法是让模型一边推理一边生成子查询。问题在于第 t 步的子查询是以前面全部推理和子查询为条件生成的，早期一个跑偏的子查询会影响后面所有步骤。

论文用"搜索动量"量化这一点。具体操作：

1. 用 E5 模型把每一步的子查询编码成向量 q_t。
2. 动量 m_t = β_t·m_{t−1} + (1−β_t)·(q_t − q_{t−1})，即把每一步子查询的移动量按权重 β_t 累加，β_t 越大越看重历史。
3. 对齐分数 S_t = cos(m_t, q_{t+1} − q_0)，即当前动量的方向和"下一个子查询相对原问题的偏移方向"的余弦相似度。
4. 在训练集上用 L-BFGS-B 拟合每一步的 β_t 使 S_t 最大，在留出集上报告 S_t。

β_t 和 S_t 都随步数上升：越往后，历史移动的权重越大，下一个子查询的偏移方向也越贴近已有动量。作者的解读是，模型的推理过程并不会自己纠正早期的偏离。

2. 方法：MAPS

2.1 不让模型看历史子查询

普通做法每一步把完整轨迹（每一步的推理、子查询、检索结果）都交给模型。MAPS 只保留两样东西：

• 知识观察集：之前每一轮从检索结果中提炼出的知识 o_1…o_{t−1}；
• 压缩推理状态：一段每轮更新的推理摘要，不包含历史子查询。

下一轮的推理只以原问题、知识观察集和压缩推理状态为输入。知识足够或达到最大轮数时，用同样三样输入生成最终答案。

2.2 每一轮并行查几个方向

每一轮分三步，由三个角色完成：

1. 方向提出：根据原问题、已有知识和推理状态，列出 N 个互补的检索方向；
2. 生成子查询：为每个方向写一个子查询，各自检索 top-K 文档，合并成一个文档集；
3. 整理：把各方向检索到的证据合并成本轮的知识观察 o_t，并更新压缩推理状态。

3. 实验

设置。 单跳问答用 NQ、PopQA，多跳用 2WikiQA、HotpotQA、MuSiQue，推理问答用 GPQA Diamond（198 题）；除 GPQA 外每个数据集随机抽 1,000 题。主干模型为 Qwen3-32B 和 Qwen3.6-35B-A3B。检索库是 2018 年 12 月的英文维基百科，检索器 E5-base-v2 + FAISS，每次返回 top-5 段落，最多 10 轮。指标是 Cover-EM（标准答案是否出现在模型回答里）。

3.1 主结果

这组实验检验 MAPS 是否在不同类型问题和两个主干模型上都比现有 RAG 方法好。

ParallelSearch 同样是并行生成多个子查询，MAPS 在所有数据集上都比它高。作者据此认为，单纯多写几个子查询不够，还需要切断子查询对历史轨迹的依赖。

3.2 消融

这组实验检验三个组件各自是否有用：去掉"先列方向"（直接并行写子查询）、去掉并行（每轮只查一个方向）、去掉解耦（保留完整历史轨迹）。

三项去掉后平均分都下降，GPQA 上下降最大。注意消融表里 MAPS 的 GPQA 是 62.3、平均 56.1，与主表的 62.1、56.0 不一致，论文没有解释。在 Qwen3.6-35B-A3B 上，去掉解耦后 2WikiQA（64.4）和 GPQA（78.1）只比完整 MAPS 略低。

3.3 动量是否真的被压住了

这组实验检验 MAPS 的提升是否确实来自减少偏离。从所有数据集随机抽 500 个样本，计算每一轮动量和原问题的余弦相似度变化并累加。随着轮次增加，MAPS 的累计偏移比 Search-o1 和去掉解耦的版本更小、更稳定。另一项分析计算子查询和标准证据文档的相似度：Search-o1 一路下降，MAPS 前期下降、之后回升并稳定。

3.4 停止轮次

MAPS 在第 1 轮就停止的样本占 62.7%，高于 Search-o1 的 50.4% 和 ParallelSearch 的 58.5%；同时需要 5 轮及以上的样本比例也更高（14.9%，对 12.5% 和 5.1%）。作者的解释是简单问题更早查到足够证据，复杂问题则不会过早停下。

4. 局限

论文没有报告每题的模型调用次数、token 消耗或延迟。MAPS 每轮要调用方向提出、子查询生成、整理三个角色，并做 N 次检索，成本很可能高于 Search-o1，但无法从论文得知具体多少。方向数 N 取多少、对结果有多大影响，正文也没有给出。实验使用 2018 年的维基百科和 E5-base-v2 这样较弱的检索器，换成更强的检索器后差距是否保持，没有验证。

5. 实践意义

做多跳 RAG 智能体的团队可以直接试两个低成本改动：每一轮不把历史子查询喂回给模型，只给提炼后的知识和一段推理摘要；生成子查询前先让模型列出几个互补方向。消融显示这两处改动单独去掉都会损失效果。上线前需要自己测量增加的调用成本。

面向客户的大模型客服通常受几十条行为规则（policy）约束，比如"只有买了旅行险才能补偿"。每一轮对话都要判断哪几条规则和当前情况相关，再放进提示词。Parlant 引擎原来的做法是每轮对每条规则问一次大模型"现在相关吗"，36 条规则每轮要 36 次调用、约 69,000 个提示词 token。Parlant 的 Signals and Queries（S&Q）把这一步换成离线训练的小分类器：对每条规则，先让大模型离线写 10 条"应当触发这条规则"的用户消息和 10 条"看起来很像、但应由相邻规则处理"的用户消息，把它们编码成向量，为这条规则单独训练一个逻辑回归；线上每轮只需一次 embedding 调用和 36 次向量点积，CPU 耗时 37 微秒。在 τ²-bench 航空客服的 254 个对话片段、36 条规则上，以大模型判定为标准，在召回率不低于 90% 时，S&Q 精确率在 Gemini embedding 上为 32%、OpenAI embedding 上为 34%，余弦阈值检索为 31%；改用真实对话中挖出的样例后，精确率升到 43.5%（Gemini）和 41.6%（OpenAI）。

1. 问题：漏一条规则是错误，多一条只是浪费

把所有规则每轮都塞进提示词，会遇到长上下文中间部分被忽视、单条指令注意力被稀释、指令越多越难全部遵守等问题，token 成本也随规则数线性增长。所以需要先筛出相关规则。

筛选的代价不对称：漏掉取消政策，客服可能做出本该拒绝的操作；多放一条无关规则，只多花几百个 token。因此 S&Q 的目标是先保证每条规则召回率至少 90%，在此前提下再提高精确率。它是一个预筛选器，筛掉的规则后面再也找不回来，留下的规则还会被客服模型自己再读一遍。

直接拿对话去和规则原文算向量相似度几乎不花钱，但对话是口语化的用户消息，规则是正式的条文，两者的向量区分度很差。

2. 方法

2.1 离线：为每条规则造正例和难负例

对每条规则，用 gemini-3.5-flash 仅根据规则原文生成：

• signals（10 条）：应当触发这条规则的用户消息，例如取消政策对应"我想取消下周去芝加哥的航班"；
• anti-signals（10 条）：同一话题附近、但应由别的规则处理的消息，例如"我想把航班从周二改到周四"（这属于改签规则）。

生成过程不使用任何真实对话。

2.2 每条规则一个逻辑回归

对每条规则，用这 20 条消息的 embedding 训练一个逻辑回归，输出"相关"的概率。每条规则的分类器只依赖它自己的样例，所以新增或修改一条规则，只需为它重新生成样例、训练一个分类器（约 2 毫秒），其他规则不受影响。

2.3 线上：两种对话视角取最大值

第 t 轮时，对两种向量打分并取最大值：整段对话到当前为止的 embedding，以及到当前为止每一条用户消息单独的 embedding。所有向量先减去全部规则的中心再归一化。分数超过全局阈值 θ 就保留该规则。取单条用户消息的最大值是为了在对话换话题时，前面的内容不会稀释后面话题的信号。真实对话的分数整体比生成的样例低，所以 θ 取负值（Gemini −0.45，OpenAI −0.4）。

3. 实验

设置。 50 段由 Parlant 客服和 τ²-bench 用户模拟器生成的航空客服对话，每个以用户消息结尾的前缀算一个查询状态，共 254 个。规则共 36 条：τ²-bench 航空政策的 6 节，加上作者另写的 30 条（身份验证、行李索赔、无人陪伴儿童、票价规则、欺诈处理等），其中故意放了几组近义规则。标准答案由 gemini-3.1-flash-lite 用 Parlant 线上的相关性提示词对每个（对话前缀, 规则）打 1–5 分，≥4 算相关，共 9,144 个标签。指标是在 31 条至少出现过一次的规则上做宏平均。基线四种：按规则原文或按 signals 的余弦相似度取 top-K，或按余弦阈值截断。embedding 分别用 gemini-embedding-001 和 OpenAI text-embedding-3-large 各跑一遍。

3.1 召回率–精确率曲线

这组实验检验 S&Q 在相同召回率下是否比现有向量检索更精确。论文称 S&Q 在每个召回水平上精确率都最高，中段（60–70% 召回）领先约 4 个点，在高召回端差距缩小：OpenAI 上 +2.9 点，Gemini 上只有 +0.9 点。top-K 方法即使取 K=15（36 条中的 15 条），召回率也只有约 66%，因为每轮同时相关的规则数量变化很大。

召回率不低于 90% 时的最佳精确率：

在这个工作点上，S&Q 和余弦阈值的差距只有 1–3 个点。只用 signals 算相似度（不训练分类器）并不比用规则原文好，提升来自有负例的分类器。

3.2 消融

这组实验检验哪个组件真正起作用，指标是曲线下面积 AUPRC 和 90% 召回下的精确率。

去掉负例下降最多。有两点和默认设置相反：用其他规则的 signals 当负例略好于专门生成的 anti-signals，作者保留后者是为了每条规则互不依赖；只用整段对话视角的 AUPRC 也更高，因为基准里的对话短且单一话题（中位数约 1,600 字符），逐条消息取最大值的设计在这里用不上。为此作者另做了一个合成测试：把两段不同任务的对话拼成"先 A 后 B"，在 30% 误报率下，逐条取最大值比整段视角在 B 话题规则上的召回率高 12 到 19 个点。

3.3 微调编码器是否更好

用同一个本地小模型 all-MiniLM-L6-v2 对比：冻结编码器 + 逻辑回归为 91% 召回 / 32% 精确，SetFit 微调编码器为 90% / 31%。微调没有帮助，而且每条规则要部署一个约 90 MB 的模型，逻辑回归权重只有约 12 KB。

3.4 换成真实对话里的样例

这组实验检验瓶颈是否在样例质量。把对话场景对半分，从一半里挖样例：规则得分首次达到最高的那条用户消息作 signal，模型判为明显无关、且最接近该规则 signals 的用户消息作 anti-signal；在另一半上评估。

只换正例几乎没变化（Gemini +0.5，OpenAI −1.5 点），提升基本都来自挖出的负例。评估集只有 131 个对话片段，作者也说这只能看方向和大致幅度。

4. 局限

标准答案来自另一个大模型的判断，而不是人工标注。即使在 90% 召回下，S&Q 精确率也只有三成多，留下的规则里大部分仍是无关的，需要后续模型再筛。挖样例需要真实对话上的相关性标签；对半切分时 29 条出现过的规则中只有 22 条挖到了足够样例。长对话里一条规则一旦触发就会一直保留，保留集只增不减，作者指出部署时需要另设过期机制。

5. 实践意义

做带大量规则或工具说明的客服智能体时，可以把"每轮问大模型这条规则相关吗"换成每条规则一个离线训练的线性分类器，线上成本降到一次 embedding 调用。最值得投入的地方是负例：为每条规则准备和相邻规则容易混淆的反例，最好从真实对话中挖取。

多轮 RAG 对话里，用户的问题有两种情况需要先反问再回答：一是问题本身指代不清，比如助手刚推荐了两张信用卡，用户问"这张卡有什么奖励"；二是问题本身看起来明确，但检索出的文档里有几个都说得通的答案，比如问"由共同布立吞语演变来的那种语言还有人说吗"，文档里有威尔士语、布列塔尼语、康沃尔语三种。IBM Research 构建了约 3,900 条样本的数据集 ClariEdge，其中专门包括"看起来含糊、但根据上文可以确定指代"的难负例，并用它对 3B 规模的 Granite 模型做 LoRA 微调，让同一个模型判断要不要反问，并在要反问时列出候选项。Granite-4.1-3B LoRA 的判断准确率为 96.6%，提示词方式下最好的 GPT-4o 为 79.4%，GPT-5.6 Sol 为 73.1%；去掉难负例训练后，难负例类的准确率从 87.3% 降到 35.4%（Granite-4.0-micro LoRA）。

1. 问题：什么时候该反问，反问时该说什么

已有数据集只覆盖了其中一部分。CLAMBER 评估的是没有对话上下文、没有检索文档的单句问题；AmbigQA 只要检索出多个事实答案就算含糊，但像"1922 年谁控制了意大利政府"这类问题，现在的模型会直接回答"墨索里尼和法西斯党"，并不需要反问。真实部署需要的是对话加文档一起判断。

还有一个难点：很多问题表面含糊但其实可以确定。例如上文用户说了"我在东北分部工作"，接着问"这个分部的服务什么时候开放"，"这个分部"是明确的。模型如果对这种问题也反问，就会过度打扰用户。

2. 方法

2.1 ClariEdge 数据集

对话覆盖 MTRAG 的四个领域：ClapNQ（维基百科）、Cloud（技术文档）、FiQA（金融）、Govt（政府）。数据分三类：

难负例的构造方式：让 Mistral-Large-3 在 793 段对话上生成"针对对话中出现过多个实例的实体类型"的提问，另外对 228 段更长的对话（超过 6 轮、含多种实体类型）用逐步推理加自我验证的方式生成。然后人工逐条审核：确实含糊的归入 Ambiguous，根据上文能确定的归入 CLEAR-hard。作者还补充了几种模型容易误判的模式，例如"哪一个电池续航最好"（是在比较所有候选，不是指某一个）、"价格？"这类简短追问。难负例只出现在不带检索文档的场景中。

每条含糊样本配一条参考反问，按候选数量选三种写法：2–3 个候选时逐个列出并附简短答案；4–8 个时只列出候选；候选很多或无法枚举时直接问用户指的是哪类。参考反问由 Mistral-Large-3 生成后人工修正。两位作者对 80 条测试样本独立标注是否含糊，Cohen's Kappa 为 0.875，4 处分歧都在 CLEAR-hard 类。

2.2 模型和用法

在 3,509 条训练样本上对 Granite-4.0-micro、Granite-4.1-3B 和 GPT-OSS-20B 做 LoRA 微调。部署时同一个 LoRA 调用两次：检索前只看对话，判断要不要先反问；检索后看对话加文档，判断要不要在生成答案前反问。任何一次判为含糊就反问。

3. 实验

设置。 对比七个只用提示词的模型：GPT-5.6 Sol、GPT-4o、GPT-OSS-120B、GPT-OSS-20B、Granite-4.1-30B、Granite-4.1-3B、Granite-4.0-micro，所有模型用相同的系统提示词和输入。分别在全部测试集、检索前子集、检索后子集上评估。

3.1 要不要反问

这组实验检验微调后的小模型能否比更大的提示词模型更准确地判断是否需要反问。

（单位 %）提示词模型分成两类错误：GPT-5.6 Sol 和 GPT-OSS-20B 倾向于什么都反问，含糊类准确率高但难负例类只有 48.1% 和 58.2%；GPT-4o 和小 Granite 倾向于不反问，含糊类准确率低。同为 Granite-4.1-3B，提示词版 64.8%，LoRA 版 96.6%，模型结构相同，差别来自训练。检索前的场景更难，LoRA 在这里的含糊类准确率（84.5%）低于检索后（100.0%）。

3.2 反问内容是否列对了候选

这组实验检验反问里列出的候选是否正确、是否齐全。只在模型正确判为含糊的样本上评估：精确率是列出的候选中正确的比例，召回率是参考候选被覆盖的比例，判断由四个大模型提示词完成。

（单位 %）提示词模型的精确率接近，但召回率低，即列出的候选大多正确、但常漏掉同样成立的选项。检索前子集上，GPT-5.6 Sol（85.1）、GPT-OSS-20B（87.5）、Granite-4.1-30B（86.2）的 F1 和两个 LoRA（约 85%）相当，但它们的判断准确率低。

3.3 难负例的作用

这组实验检验难负例是否必要：用同样的数据训练 Granite-4.0-micro LoRA，唯一区别是去掉全部 CLEAR-hard 样本。

去掉难负例后，模型几乎对所有表面含糊的问题都反问，CLEAR-hard 准确率降到 35.4%。

3.4 新领域

在 MTRAG-UN 的银行和电信两个新领域上，Granite-4.0-micro LoRA 判断准确率为 92.6% 和 90.2%，提示词模型最高为 71.9%（GPT-OSS-120B，电信）。银行领域的反问质量 F1 上，GPT-4o（89.82%）和 Granite-4.1-30B（86.61%）高于 LoRA（81.56%），但它们判对的含糊样本更少（42/79 和 60/79，LoRA 为 69/79）。

4. 局限

模型只生成一次反问，不支持多轮逐步澄清；数据和评估只有英文，作者均已说明。此外，反问质量的精确率和召回率依靠大模型判断；难负例只覆盖检索前场景，检索后的"看似多个答案、其实可以合并回答"的情况没有专门的难负例；测试集含糊类只有 104 条，各模型之间几个百分点的差距不宜过度解读。

5. 实践意义

做多轮 RAG 助手时，"要不要反问"可以交给一个 3B 规模的 LoRA 小模型，在检索前后各调用一次，而不必依赖大模型的提示词。关键是训练数据里要有"看起来含糊但上文已经说清楚"的反例，否则模型会频繁反问。ClariEdge 已在 Hugging Face 公开（ibm-research/ClariEdge）。