深度解读：From Conflict to Consensus: Boosting Medical Reasoning via Multi-Round Agentic RAG
问题与动机
本文聚焦于 LLM 在医学问答中的幻觉与知识过时问题。现有 LLM 在医学推理任务中容易生成看似流畅但事实错误的回答，且参数化知识无法及时更新医学领域的新证据。
现有 RAG 方案（如 FLARE、DRAGIN）依赖 token 级别的置信度信号 来判断何时需要检索外部知识，但这类信号本身容易受到幻觉的干扰——模型在"胡说"时也可能表现出高置信度。这使得自适应 RAG 系统在医学等高风险领域的可靠性不足。
作者提出了一个关键洞察：多条推理路径之间的语义冲突，比单条路径的置信度更能可靠地揭示知识缺口。当多个候选回答对同一诊断产生分歧时，正说明模型在此处存在不确定性，需要外部证据来消歧。
方法概述
作者提出 MA-RAG（Multi-Round Agentic RAG） 框架，核心思路是：将候选回答之间的语义冲突转化为可执行的检索查询，通过多轮迭代逐步从"冲突"走向"共识"。
框架由三个协作 Agent 组成：
- Solver Agent：每轮通过温度采样生成 N 条多样化候选回答。其核心假设是"幻觉会发散，而正确推理会收敛"。
- Retrieval Agent：分析候选回答之间的语义冲突点，将其转化为 K 条有针对性的检索查询，从外部医学语料库中获取证据。这避开了传统方法依赖置信度触发检索的缺陷。
- Ranking Agent：对历史推理轨迹进行重排序，将高质量回答前置，缓解长上下文中的"lost-in-the-middle"退化问题。提供两种评分方式：基于序列熵的内在不确定性评估，以及基于微调 BERT 的外部验证器。
整个流程迭代进行：当候选回答的最大一致性低于阈值 ε 时，自动触发下一轮检索-推理循环，直到达成共识或达到最大轮次。
核心技术贡献
- 冲突驱动的检索触发机制：不同于现有方法用 token 级置信度判断是否需要检索，MA-RAG 用多条推理路径之间的语义冲突作为更可靠的诊断信号。这在概念上类似 Boosting 算法——每轮迭代聚焦于"困难样本"，通过针对性证据获取来修正残差。
- 从 Self-Consistency 到 Adaptive Multi-Round Refinement 的扩展：将 self-consistency 从静态单轮投票扩展为动态多轮自适应精炼，引入阈值机制控制迭代终止。
- 检索查询的语义化生成：Retrieval Agent 不是简单地把问题丢给检索器，而是分析候选回答的分歧焦点来构造查询，使检索更有针对性。
- 推理轨迹的质量感知排序：Ranking Agent 解决了多轮迭代中上下文膨胀导致的质量退化问题，确保高质量推理证据在上下文中被优先"看到"。
实验结果分析
在 7 个医学问答基准 上进行了评估（MedQA/USMLE、MedMCQA、MedBullets、MMLU-Pro、NEJM、MedExpQA、MedXpertQA），涵盖从标准化考试到专家级推理任务（MedXpertQA 包含 10 选项选择题）。
主要结果（Qwen3-8B 为骨干模型）：
| 方法 | 平均准确率 | 相对提升 |
|---|
| Qwen3-8B baseline | 55.4% | — |
| Self-Consistency | 56.7% | +1.3 |
| Multi-Refine | 58.7% | +3.3 |
| MA-RAG-ext | 62.2% | +6.8 |
消融分析 清晰揭示了各组件的贡献：
- Multi-Refine 单独贡献 +3.3 分
- 加入 Retrieval Agent 额外贡献 +1.9 分
- 加入 Ranking Agent 再额外贡献 +1.6 分
关键发现：
- 外部验证器（微调 BERT）比基于熵的内在排序平均高 +1.2 分
- 性能在 T=4 轮后趋于饱和，提供了成本效益的部署参考
- 候选数 N=8 比 N=4 高 +2.2 分
- 在更强的 Qwen3-32B 上仍有 +5.5 分提升，Retrieval Agent 仍贡献 +1.8 分，说明框架对强模型依然有效
局限与未来方向
已知局限：
- 推理时计算开销：多轮迭代、多候选生成、检索+排序显著增加推理时延和成本，不利于实时场景。
- 检索语料库覆盖依赖：框架的效果上限受限于检索库（MedCorp）的覆盖范围，对于语料库未收录的新兴医学知识无能为力。
- 幻觉无法完全消除：多轮迭代降低但不能根除幻觉风险，且检索源的系统性偏差可能引入新的错误。
未来方向：
- 接入网络级搜索和结构化医学数据库（如 PubMed、临床指南库），扩大证据覆盖
- 改进回答质量评估机制，探索更轻量的验证方案
- 在推理效率上做优化，例如早停策略、自适应候选数量等
工业实践意义
- "冲突即信号"的设计范式：在搜索/推荐系统中，当多个模型或策略对同一 query/item 产生冲突判断时，可类比地将冲突作为需要额外信息的信号，触发更深层的特征获取或知识检索，而非简单投票或取平均。
- Multi-Agent 协作的检索增强架构：Solver-Retrieval-Ranking 的三 Agent 架构可迁移至电商搜索、客服问答等场景——生成候选回答、针对性补充检索、质量排序的流水线具有通用性。
- Test-time Scaling 的实践参考：论文展示了通过增加推理时计算（更多候选、更多轮次）来提升质量的清晰收益曲线（T=4 饱和、N=8 优于 N=4），为工业系统在延迟-质量 trade-off 上提供了量化依据。
- Ranking Agent 的启示：多轮对话/多文档场景中的"lost-in-the-middle"问题在工业 RAG 系统中同样普遍，Ranking Agent 的推理轨迹重排思路值得借鉴——在将检索结果喂给 LLM 前，先做质量感知的重排序。
- 外部验证器优于自评估：实验表明微调的小模型验证器（BERT-based）比模型自身的不确定性估计更可靠，这对工业系统中的质量把关模块设计有直接指导意义——与其让生成模型自评，不如训练专门的轻量判别模型。