Scaling Retrieval-Augmented Reasoning with Parallel Search and Explicit Merging
MultiSearch 针对 search-augmented LLM 每步只生成单一 query 的局限,改为一次从多个视角生成多条 query 并行检索,再用显式 merging 步骤合并结果以提升信噪比。训练上用 RL + 多过程奖励(multi-process reward)同时优化多 query 检索与信息合并两个子目标。在 7 个 benchmark 上优于基线,检索信噪比与问答推理表现均有提升。
INSIGHT把多视角 query 扩展 + 显式合并做成可学习模块,比单一改写更适配 UGC 短文本搜索中表达多样、口语化的 query。多过程奖励分别监督检索与合并,缓解端到端 RL 的稀疏奖励问题,是值得参考的奖励设计。并行检索也利于降低多轮 agentic 检索的整体延迟。