Reasoner-Executor-Synthesizer: Scalable Agentic Architecture with Static O(1) Context Window
针对 LLM Agent 中 RAG 系统的上下文窗口扩展问题,提出 Reasoner-Executor-Synthesizer (RES) 三层架构:Reasoner 解析用户意图,Executor 以确定性方式执行数据检索和聚合(零 LLM token),Synthesizer 生成叙述性回答。该架构将上下文窗口固定为 O(1),token 成本不随数据集规模增长,同时降低了幻觉风险。
INSIGHTRES 架构的核心创新在于将检索与推理彻底解耦:Executor 层不使用 LLM,完全依赖确定性代码执行数据操作,避免了长上下文带来的幻觉和高成本问题。这种分层设计对搜索系统中的 Agent 架构设计具有直接借鉴意义——在社区搜索场景中,可将 query 理解、文档检索、结果合成三个阶段分离,用轻量确定性模块处理召回,仅在最终合成阶段使用 LLM。