- 1. SynPlanResearch-R1: Encouraging Tool Exploration for Deep Research with Synthetic Plans · 📖 深度解读
针对深度研究 Agent 在使用 RLVR(可验证奖励强化学习)训练时常出现的提前终止和工具使用偏差等探索行为不足问题,提出 SynPlanResearch-R1 框架。核心思路是通过合成包含丰富工具使用轨迹的计划(synthetic plans),引导 Agent 学习多样化的工具探索策略,并将这些轨迹用于初始化 RL 训练。实验表明,该方法显著提升了 Agent 的工具调用多样性和任务完成质量…
出现于日报:03-11
- 2. Beyond Rows to Reasoning: Agentic Retrieval for Multimodal Spreadsheet Understanding and Editing
提出 BRTR 多模态 Agentic RAG 框架,用迭代工具调用替代单次检索处理企业级电子表格。
出现于日报:03-10
- 3. Meta-Reinforcement Learning with Self-Reflection for Agentic Search · 📖 深度解读
针对搜索 Agent 的强化学习训练提出 MR-Search 框架,核心创新在于跨 episode 的元学习:模型不仅在单次搜索中学习,还能利用历史搜索经验进行自我反思,动态调整搜索策略。采用多轮 RL 算法实现细粒度的 credit assignment,在 8 个基准上比标准 RL 方法提升 9.2%-19.3%。该方法直接解决了搜索 Agent 的核心挑战——如何从失败搜索中学习和改进。
出现于日报:03-14
- 4. SIGHT: Reinforcement Learning with Self-Evidence and Information-Gain Diverse Branching for Search Agent
提出 SIGHT 框架,通过自证据支持和信息增益驱动的多样分支机制,解决搜索 Agent 多轮检索中的「隧道视野」问题。
出现于日报:03-09
- 5. Exploratory Memory-Augmented LLM Agent via Hybrid On- and Off-Policy Optimization
提出 EMPO² 混合策略优化框架,用记忆增强 LLM Agent 的探索能力。
出现于日报:03-10
- 6. DualSpec: Accelerating Deep Research Agents via Dual-Process Action Speculation · 📖 深度解读
针对 LLM 深度研究 Agent 在长链信息检索任务中端到端延迟过高的问题,提出双进程动作推测(DualSpec)框架。受人类认知双进程理论启发,设计快速(System 1)和慢速(System 2)两种推测策略:快速策略处理常规动作模式,慢速策略应对需要深度推理的复杂动作。通过自适应选择推测策略并放宽严格动作匹配约束,实现推理与工具执行的有效重叠,显著降低了深度研究 Agent 的端到端响应时间。
出现于日报:03-11
- 7. Mind2Web 2: Evaluating Agentic Search with Agent-as-a-Judge
针对 Deep Research 等 Agentic Search 系统缺乏有效评估基准的问题,提出 Mind2Web 2 基准和 Agent-as-a-Judge 评估方法。该基准包含 130 个真实、高质量、长链任务,需要实时网页浏览和大规模信息综合,构建耗费超 1000 小时人工标注。提出的 Agent-as-a-Judge 评估方法解决了传统评估框架无法处理时变答案和开放式输出的问题…
出现于日报:03-11
- 8. ReflexiCoder: Teaching Large Language Models to Self-Reflect on Generated Code and Self-Correct It via Reinforcement Learning
用 RL 训练 LLM 内化自我反思和纠错能力,无需外部反馈即可自主迭代修正代码。
出现于日报:03-10
- 9. ARLArena: A Unified Framework for Stable Agentic Reinforcement Learning
针对 Agentic Reinforcement Learning (ARL) 训练高度不稳定、频繁崩溃的问题,提出 ARLArena 统一框架。首先系统性定义了 ARL 的训练稳定性,然后提供一套稳定训练方案(stable training recipe),涵盖梯度裁剪、学习率调度、经验回放缓冲等关键设计选择。框架支持在多种环境和交互时长下系统性分析算法设计决策对训练稳定性的影响,为 ARL 研究提供了标准化的实验平台。
出现于日报:03-11
- 10. Scaling Agentic Capabilities, Not Context: Efficient Reinforcement Finetuning for Large Toolspaces
针对小型语言模型(SLM)在大规模工具生态中因上下文饱和和稀疏奖励导致的脆弱性问题,提出 ATLAS 强化微调框架。两大核心贡献:一是将上下文控制和执行结构作为可学习决策,结合迭代工具加载与程序化执行结构;二是通过高效的 RL 训练使 SLM 学会在庞大工具空间中按需获取上下文和执行动作,而非一次性加载所有工具描述。使 SLM 在大工具空间中接近前沿大模型的性能。
出现于日报:03-11