Context Language Models：把上下文管理交给模型

正文来源：https://arxiv.org/html/2609.37725 。以下分析依据方法、结果、讨论及附录 B、E、F；本地正文快照为 fulltext_36.txt。论文作者来自 UW、Meta、MIT 等机构。本报告评分 4.40，社区搜索中的主要价值是多轮证据管理与复杂检索的计算效率。

1. 问题与动机

复杂检索常常不是一次召回即可完成：系统要保留问题约束、搜索过哪些方向、有哪些证据相互冲突，以及还缺什么信息。传统上下文管理由执行框架规定，达到长度阈值后统一总结，或暴露预定义的压缩、外存、检索操作。论文指出，这些办法限制了模型决定信息如何保留的空间。摘要可能遗漏原文，也可能在改写时引入不存在的事实；局部状态更新却要重新生成整个状态，更浪费计算。

作者构造 ContextBench 来隔离上下文管理能力，包含原文保留、数独状态编辑、键值存储和日志筛选四类任务，窗口固定为 32K，输入压力最高达到窗口的 24 倍。它们不要求复杂领域知识，但现有方法仍无法全部正确完成。这个诊断说明，限制不仅在模型能否推理，也在执行框架能否让模型持续维护合适的输入。CLM 延续模型控制压缩时机的研究，却把控制权进一步扩展到编辑整个实时上下文。

2. 方法详解

标准语言模型的上下文转移是“旧上下文加新输出”。CLM 则允许模型自己构造下一轮上下文：旧输入不仅可追加，也可删除、替换、压缩和重新组织。实现上，执行框架把当前上下文镜像成一个文件，并在系统提示中给出路径。模型通过通用 Bash 或代码接口编辑文件，执行框架把修改同步到下一次模型调用。若没有编辑，仍采用普通的追加行为。这要求修改的是实际发送给模型的实时输入，而不是仅维护一个外部笔记文件。

因此，最低限度的复现流程是：初始化上下文文件；模型生成普通回答或工具调用；执行工具；检测上下文文件变化；解析更新后的轮次及角色；将其作为下一轮输入；保留完整的编辑与工具日志供验证。这里列出的执行顺序是对论文实现机制的实践归纳，产品化时还需处理异常编辑与回滚。多 Agent 扩展让多个上下文文件各自同步到对应模型会话，创建或删除文件可对应子任务的开始和结束。论文观察到模型自行维护进度表、修改内部备注角色，并编写可重复调用的压缩函数。

策略学习有两条路径。文本演化在训练划分上生成轨迹，由提出者模型据此改写技能说明，在开发集上选择下一轮策略，最终只在保留测试集上评估一次。参数学习使用 stepwise GRPO：每个完整轨迹的结果优势分配给各次模型调用。单纯奖励删去 token 容易诱导模型丢证据，因此作者只在成功轨迹之间计算效率优势。每条成功轨迹的奖励取决于其计算量相对同组成功轨迹平均计算量的减少比例，裁剪到 [-1,1]；失败轨迹不拿效率奖励，同组成功轨迹少于两条时也不计算。最后把任务优势与效率优势相加。

附录 E 的训练设置是 Qwen3.5-9B、3,040 条 OpenResearcher 提示、70 步，每步 8 条提示，每条采样 32 条轨迹。学习率为 10^-6，权重衰减为 0.1，低方差 KL 系数为 0.01，裁剪范围为 [0.2,0.28]；使用截断重要性采样和移除无奖励差异组的动态采样。生成温度 0.7、top-p 0.95，每轮最多生成 4,096 tokens。CLM 窗口预算 28K，并预留 2,048 tokens，最多 80 个非编辑轮次。策略训练使用 16 张 H200，轨迹生成使用 48 张 H200。正文未在这些设置中明确给出优化器名称，不能自行补为 AdamW。

任务二元奖励来自 GPT-5.4-nano 依照 DeepSearchQA 规则判断，效率优势权重为 0.25，作用于上下文管理 tokens，并处罚失败工具调用和格式错误。用 500 道保留验证题挑检查点，再评估全部 830 道 BrowseComp-Plus 题。这一资源配置显著大于一般业务团队的轻量试验，因此零样本改造比完整复现 RL 更适合作为第一步。

3. 核心技术贡献

第一项贡献是把管理上下文定义为模型的原生能力。相较 Self-Compact、ACM 等预定义工具，CLM 不规定只能“压缩”或“外存”，允许模型自己设计操作及其组合。正文图 3 的实际轨迹显示，它可用循环剔除无关搜索结果、保留已搜索查询，或用函数将详细观测替换为进度笔记。一个编排例子进行 163 次原位修改，却把实时上下文维持在 6–8K tokens；这是机制实例，不代表所有任务都有相同比例的压缩收益。

第二项贡献是将正确性和效率联合优化，同时防止“删得多就得分”的奖励漏洞。成功门控使模型先解决任务，再在正确轨迹中减少计算。训练后 9B CLM 的 BrowseComp-Plus 准确率提高 13.7 个百分点，计算从 1.52 降到 1.34 PFLOPs/题。重要的是，未训练小模型在该训练比较中落后摘要执行框架，说明上下文自由并不自动产生优秀策略。

第三项贡献是 Suffix Cache Reuse，解决中间编辑破坏前缀匹配导致重新预填充的问题。上下文从 [A,B,C] 改成 [A,B',C] 时，普通缓存只能复用 A；SCR 找到编辑后仍存活的片段，按长度优先迁移最多 6 段 KV 状态，对键的旋转位置编码重新定位，再插入新上下文。只有 B' 和新增 tokens 需要预填充。迁移状态放在会话私有缓存槽，避免污染共享 radix tree；分配失败就退回普通预填充。因为 C 的状态仍带有旧前缀信息，这是近似复用，不是严格等价的注意力计算。在报告实验里维持性能的同时，计算下降约 35%。

4. 实验结果分析

下表整理正文表 2、图 5、图 8 的数值。计算指标为考虑前缀缓存匹配的理论或实测计算量，不是请求耗时；不同任务及模型之间不能直接比较 PFLOPs 的绝对大小。

在零样本复杂研究任务中，27B CLM 的 BrowseComp-Plus 准确率是 59.4%，比最强摘要基线相对高 11.4%，计算低 21.5%。这与表内 9B 强化学习实验不同，不能混成同一设置。训练后的 CLM 相对训练后的摘要模型只高 0.4 个百分点，但每题计算从 2.19 降到 1.34，减少约 38.8%。因此它在这个比较中的突出收益主要是相近准确率下的效率，而非大幅超过所有训练基线。

消融和对照提供了几条更具体的判断。正文及附录的奖励曲线显示，增加计算奖励进一步降低推理成本，没有清晰可见的准确率损失；论文没有给出可直接抄录的全部曲线端点数值，所以这里不估读图片来声称某个精确提升。32K 单仓库任务里增加子 Agent 从 44.6 变为 44.2，并未改善表现。128K 下，子 Agent 达到 50.2，高于单 CLM 的 47.3，但消耗 219 而非 142 PFLOPs。是否并行探索取决于任务结构和预算，不应只因支持子 Agent 就默认开启。

模型规模也影响策略质量：在 TerminalBench 2.1，9B 模型平均编辑 1.4 次，半数任务一次都不编辑；27B 平均编辑 2.6 次。二者峰值上下文中位数分别为 30.2K 和 17.6K，说明小模型更容易把窗口用满。技能演化的 KV Store 保留测试集从 38.3% 到 74.2%，提高 35.9 个百分点；开发集从 22.3% 到 83.8%，这些划分不能混用。正文还报告六仓库协作的下游速度改善幅度相对基线多 65%，它是特定软件优化目标，不能解读为搜索问答准确率提高 65%。

5. 局限与未来方向

作者在讨论中明确指出，可编辑上下文会增加安全攻击面：提示注入和模型自行生成的指令可能写入后续轮次持续使用的上下文。文章引用摘要压缩中插入未授权指令的先例，要求研究保持完整性的防护。未来方向包括扩大 CLM 的强化学习规模，以及把已有执行框架的过程策略转写成 CLM 动作，再吸收到模型参数。作者把执行框架看成程序性记忆，提出外部开发后再内部学习的路线，并没有声称当前版本已能完全替代所有框架规则。

作为实践观察，还应关注正文未直接覆盖的业务风险：社区搜索的点击率、nDCG、实时响应延迟及用户可信度并未进行线上 A/B 验证；FLOPs 更少也可能被文件同步、缓存匹配或额外工具往返抵消。SCR 使用旧上下文下的后缀状态，需要针对大量事实修改的场景测试残留信息影响。RL 奖励依赖模型裁判，正确性定义与真实社区任务有距离。这些是迁移评估问题，不是论文已经测出的负面结论。

6. 工业实践意义

适合先试点的场景是需要多次检索与核查的社区问题，例如综合不同帖子判断某种产品的使用条件，或追踪一个主题随时间变化的意见。可让模型维护“问题约束、已确认事实、原文片段及引用、分歧、失败搜索、待验证项”工作区，把过长工具返回外存但留下来源定位。这个工作区字段设计是本解读的业务建议；论文证明的是开放编辑机制及其基准效果，并未验证上述社区字段。

试验应固定模型、检索器、候选池与时间预算，把固定摘要和 CLM 两组放在同一查询集上比较。准确性看相关性、证据支持率和约束完成率，效率看工具调用数、输入输出 tokens、重复搜索、实际端到端耗时。还要抽查原文被错误删除或改写的比例，特别是用户否定约束和帖子日期。先给轻量模型配自然语言策略并测试，不必立即投入 64 张 H200 复现训练。

工程实现必须保存可回放的上下文版本；系统级边界、用户授权与外部证据应有独立完整性保护，避免模型编辑把检索材料升格为指令。可限制试点访问范围并测量恢复能力，但不要假定这些限制已经由 CLM 论文自动提供。缓存层应作为第二个独立变量：先证明编辑策略改善质量与成本，再引入 SCR，记录回退率、显存占用与请求延迟。若只能调用不暴露 KV 状态的托管接口，可采用文件上下文机制，但不能宣称获得论文 SCR 的 35% 收益。

最后，本文没有社区搜索线上收益。对 nDCG 和 CTR 的作用应通过受控业务试验确认；它更直接的启示是让模型在多轮检索中保留正确而紧凑的证据状态，并使管理成本可测、策略可学习、每次改写可追溯。