2026-03-20 周五 · Agentic

独立报告页 · 在站内浏览(含往期切换)→
Generative生成式推荐 · 9 篇Personalization个性化推荐 · 9 篇AI SearchAI 搜索 · 10 篇Agentic智能体搜索 · 10 篇Infra系统与索引 · 10 篇

今日场景社区搜索 (UGC 短文本搜索): 用户在社区平台搜索帖子、问答、评论等 UGC 内容。核心指标是搜索相关性 (nDCG) 和点击率 (CTR)。关注:语义匹配、query 理解、短文本召回、排序模型、LLM 在搜索中的应用。 — 评分 18 篇,入选 10 篇,分数 3.55 – 4.30

本期目录 · 10 篇
  1. 01TRUST-SQL: Tool-Integrated Multi-Turn Reinforcement Learning for Text-to-SQL over Unknown Schemas
  2. 02PaperScout: An Autonomous Agent for Academic Paper Search with Process-Aware Sequence-Level Policy Optimization
  3. 03CodeScout: An Effective Recipe for Reinforcement Learning of Code Search Agents
  4. 04InfoDensity: Rewarding Information-Dense Traces for Efficient Reasoning
  5. 05RAGXplain: From Explainable Evaluation to Actionable Guidance of RAG Pipelines
  6. 06Tree Search for LLM Agent Reinforcement Learning
  7. 07Generalizable End-to-End Tool-Use RL with Synthetic CodeGym
  8. 08Recursive Language Models Meet Uncertainty: The Surprising Effectiveness of Self-Reflective Program Search for Long Context
  9. 09Facts as First Class Objects: Knowledge Objects for Persistent LLM Memory
  10. 10Alternating Reinforcement Learning with Contextual Rubric Rewards
LEAD STORY · 今日必读 · Meituan

TRUST-SQL: Tool-Integrated Multi-Turn Reinforcement Learning for Text-to-SQL over Unknown Schemas

本文提出 TRUST-SQL,针对真实企业场景中数据库包含数百张表、元数据噪声大的 Unknown Schema 问题。将 Text-to-SQL 建模为 POMDP,agent 通过四阶段协议(schema 探索、验证、SQL 生成、执行检查)主动发现和验证相关 schema 子集。提出 Dual-Track GRPO 策略,通过 token 级 masked advantages 将探索奖励与执行结果解耦,解决信用分配问题,在 BIRD 基准上相对提升 9.9%。

相关 4新颖 4实用 4证据 4时效 5
4.30
综合分 / 5
偏好调整 4.30
KEY INSIGHT · 对业务意味着什么将 agent 工具使用过程建模为 POMDP 并用 RL 训练是 agentic search 的通用范式。Dual-Track GRPO 通过将探索与利用的奖励信号分离,有效解决了多轮 agent 任务中的信用分配难题。这种「工具调用 + RL 训练」的模式可直接迁移到搜索场景中的多轮 query 改写、schema 发现等任务。
Ai Jian, Xiaoyun Zhang, Wanrou Du, Jingqing Ruan, Jiangbo Pei, Weipeng Zhang, Ke Zeng, Xun... · 2026-03-19 · arXiv
独立页面阅读 ↗

今日其余入选

9 篇 · 按综合排名
02 4.10

PaperScout: An Autonomous Agent for Academic Paper Search with Process-Aware Sequence-Level Policy Optimization

USTC

PaperScout 将学术论文搜索重构为序列决策过程,agent 根据已积累的检索上下文动态决定何时、如何调用搜索和扩展工具。提出 Proximal Sequence Policy Optimization (PSPO),一种过程感知的序列级策略优化方法,解决了标准 RL 在多轮 agent 任务中 token 级优化与序列级交互的粒度不匹配问题,在多个学术搜索基准上显著优于静态工作流。

INSIGHTPSPO 的核心创新在于将多轮 agent 交互视为序列级决策而非 token 级决策,避免了 GRPO 等方法在长轨迹上信用分配的困难。这种序列级 RL 优化思路对搜索推荐场景中的多轮检索 agent(如多轮 query 改写、迭代召回)具有直接借鉴意义。

Tingyue Pan, Jie Ouyang, Mingyue Cheng, Qingchuan Li, Zirui Liu, Daoyu Wang, Mingfan Pan, Shuo Yu, Q...
arXiv·2026-01-17·Relevance 4 · Novelty 4 · Practical 4 · Evidence 4 · Timely 3
03 4.00

CodeScout: An Effective Recipe for Reinforcement Learning of Code Search Agents

CMUAll Hands AI

CodeScout 证明了一个重要发现:仅配备标准 Unix 终端的 coding agent,通过有效的 RL 训练策略即可在代码搜索任务上达到强竞争力,无需复杂的专用工具(如静态分析图)。在 SWE-Bench Verified/Pro/Lite 三个基准上,CodeScout 模型在代码定位任务上持续超越或匹配超过 2 倍参数量的模型。

INSIGHT该工作的核心启示是「简单工具 + 好的 RL 训练 > 复杂工具 + SFT」。这对搜索系统设计有重要指导:与其为 search agent 设计复杂的专用检索接口,不如赋予通用工具并通过 RL 让 agent 学会高效使用。RL recipe 的设计(奖励函数、训练稳定性)比工具设计更关键。

Lintang Sutawika, Aditya Bharat Soni, Bharath Sriraam R R, Apurva Gandhi, Taha Yassine, Sanidhya Vij...
arXiv·2026-03-19·Relevance 3 · Novelty 4 · Practical 4 · Evidence 4 · Timely 5
04 3.90

InfoDensity: Rewarding Information-Dense Traces for Efficient Reasoning

A*STAR

InfoDensity 从信息论角度分析推理链质量,发现高质量推理链具有两个特性:低不确定性收敛和单调进展。据此提出 InfoDensity 奖励机制,用条件熵变化量化每个推理步骤的信息贡献度,替代简单的长度惩罚。该方法在不损失推理准确性的前提下显著压缩推理链长度,减少计算成本。

INSIGHT信息密度作为推理质量的度量标准是一个有价值的新视角。在搜索 agent 场景中,多轮检索-推理过程也面临冗余问题(不必要的检索轮次)。InfoDensity 的条件熵分析框架可用于评估和优化搜索 agent 的检索效率——每次检索调用应带来显著的信息增益。

Chengwei Wei, Jung-jae Kim, Longyin Zhang, Shengkai Chen, Nancy F. Chen
arXiv·2026-03-19·Relevance 3 · Novelty 4 · Practical 4 · Evidence 4 · Timely 5
05 3.85

RAGXplain: From Explainable Evaluation to Actionable Guidance of RAG Pipelines

RAGXplain 提出 Metric Diamond 评估框架,围绕用户输入、检索上下文、生成答案和 ground truth 四个节点的六个诊断维度,将 RAG 管道的性能指标转化为可操作的优化建议。框架使用 LLM 推理生成自然语言的失败模式解释和优先级排序的干预方案。在五个 QA 基准上,单轮人工指导的优化即可一致性地提升 RAG 性能。

INSIGHTRAGXplain 将 RAG 评估从「是否好」转变为「哪里差、为什么差、怎么修」。对于部署 RAG 系统的搜索场景,这种可解释的评估框架比单一指标更有实际价值。Metric Diamond 的六维诊断可直接用于搜索系统的 bad case 分析流程,帮助快速定位检索、生成还是上下文匹配环节的问题。

Dvir Cohen, Tamir Houri, Lin Burg, Gilad Barkan
arXiv·2026-03-19·Relevance 4 · Novelty 3 · Practical 4 · Evidence 4 · Timely 3
06 3.80

Tree Search for LLM Agent Reinforcement Learning

Tree-GRPO 提出基于树搜索的分组 agent RL 方法,每个树节点代表完整的 agent 交互步骤。通过共享公共前缀,树搜索采样在固定 token/工具调用预算内增加 rollout 数量。树结构轨迹天然支持构建步级过程监督信号(即使仅使用结果奖励),在树内和树间两个层级估计分组相对优势。

INSIGHT树搜索结构是解决 agent RL 中稀疏监督问题的优雅方案。共享前缀的设计大幅提升采样效率,步级过程监督消除了纯结果奖励的信用分配问题。这种方法可直接应用于多轮搜索 agent 的训练,其中每个检索决策点对应一个树节点,通过树搜索探索不同的检索策略路径。

Yuxiang Ji, Ziyu Ma, Yong Wang, Guanhua Chen, Xiangxiang Chu, Liaoni Wu
arXiv·2026-03-19·Relevance 3 · Novelty 4 · Practical 4 · Evidence 4 · Timely 3
07 3.80

Generalizable End-to-End Tool-Use RL with Synthetic CodeGym

Google DeepMindCMU

CodeGym 提出可扩展的框架,将静态编程题转换为多轮工具使用交互环境,用于 LLM agent 的 RL 训练。该框架通过提取编程题中的原子功能并组合为工具,合成多样、可验证、可控的训练环境。端到端 RL 训练使 agent 在未见工具和工作流上泛化能力大幅提升,突破了 SFT 和窄任务 RL 的泛化瓶颈。

INSIGHTCodeGym 的核心贡献是解决了工具使用 RL 的训练数据多样性问题。通过合成多样化的工具使用环境而非依赖人工标注轨迹,实现了真正的端到端泛化。这种「合成环境 + RL」的范式为搜索 agent 训练提供了新思路——可以合成多样化的搜索场景作为训练环境,而非依赖有限的人工查询日志。

Weihua Du, Hailei Gong, Zhan Ling, Kang Liu, Lingfeng Shen, Xuesong Yao, Yufei Xu, Dingyuan Shi, Yim...
arXiv·2026-03-19·Relevance 3 · Novelty 5 · Practical 3 · Evidence 4 · Timely 3
08 3.65

Recursive Language Models Meet Uncertainty: The Surprising Effectiveness of Self-Reflective Program Search for Long Context

Apple

SRLM 为递归语言模型引入不确定性感知的自我反思机制,利用三种内在信号(自一致性、推理长度、口头化置信度)评估和选择上下文交互程序。这些信号作为模型内部不确定性的互补指标,使模型能在无需外部标注的情况下自主优化长上下文信息提取和推理策略。

INSIGHT将自我反思与不确定性估计结合用于指导 agent 行为选择是一个实用创新。在搜索场景中,agent 常需决定是否继续检索或直接回答,SRLM 的自一致性和置信度信号可作为「停止检索」的判断依据。无需额外训练的推理时优化方式也降低了部署门槛。

Keivan Alizadeh, Parshin Shojaee, Minsik Cho, Mehrdad Farajtabar
arXiv·2026-03-19·Relevance 3 · Novelty 4 · Practical 3 · Evidence 4 · Timely 5
09 3.65

Facts as First Class Objects: Knowledge Objects for Persistent LLM Memory

研究对比了 in-context memory(将事实存入 prompt)与 Knowledge Objects(KO,哈希寻址元组,O(1) 检索)两种 LLM 持久记忆方案。发现 in-context memory 在 8000 事实时溢出,摘要压缩丢失 60% 事实,级联压缩导致 54% 项目约束漂移。KO 在所有条件下达到 100% 准确率,成本降低 252 倍,多跳推理 78.9% vs in-context 31.6%。

INSIGHT该工作揭示了 in-context memory 的三个关键失败模式(容量溢出、压缩丢失、目标漂移),对依赖长上下文的搜索 agent 系统设计有直接警示。Knowledge Objects 的 O(1) 检索机制适合作为搜索 agent 的外部记忆层,特别适用于需要维护大量检索历史和实体知识的多轮搜索场景。

Oliver Zahn, Simran Chana
arXiv·2026-03-19·Relevance 3 · Novelty 3 · Practical 4 · Evidence 4 · Timely 5
10 3.55

Alternating Reinforcement Learning with Contextual Rubric Rewards

ARL-RR 提出交替式多维 rubric 奖励优化框架,消除了传统 RLHF/RLVR 中将向量奖励线性压缩为标量的需求。通过每次优化一个语义 rubric 元类别,解决了固定权重聚合对人工评分设计敏感、无法捕获奖励维度间相关性的问题。理论分析表明奖励聚合产生方差收缩效应,同时引入轻量级搜索策略自适应选择优化维度。

INSIGHT多维 rubric 奖励替代标量奖励对搜索 agent 训练有实际启示。搜索质量本身是多维的(相关性、新鲜度、多样性、权威性),传统做法是手工设计加权组合,ARL-RR 的交替优化策略提供了一种无需预设权重的多目标优化方案。理论上的方差收缩分析也为理解多维奖励聚合提供了新视角。

Guangchen Lan
arXiv·2026-03-19·Relevance 3 · Novelty 4 · Practical 3 · Evidence 3 · Timely 5

其他赛道今日

点击切换
Generative
9
生成式推荐 · 篇入选
Personalization
9
个性化推荐 · 篇入选
AI Search
10
AI 搜索 · 篇入选
Infra
10
系统与索引 · 篇入选