DualSpec: Accelerating Deep Research Agents via Dual-Process Action Speculation
针对 LLM 深度研究 Agent 在长链信息检索任务中端到端延迟过高的问题,提出双进程动作推测(DualSpec)框架。受人类认知双进程理论启发,设计快速(System 1)和慢速(System 2)两种推测策略:快速策略处理常规动作模式,慢速策略应对需要深度推理的复杂动作。通过自适应选择推测策略并放宽严格动作匹配约束,实现推理与工具执行的有效重叠,显著降低了深度研究 Agent 的端到端响应时间。
INSIGHT深度研究 Agent 的主要瓶颈不在于单步推理能力,而在于多步推理和频繁工具调用累积的延迟。DualSpec 借鉴认知双进程理论,将动作推测分为快慢两个通道,这种设计思路可直接应用于搜索 Agent 的推理加速——对常见查询模式用轻量推测跳过等待,对复杂查询保留完整推理。该方法来自微软研究院,具有较强的工程落地参考价值。