1. 问题与动机
论文从一个容易被工程指标掩盖的断裂出发：RAG 的 recall@k 在“检索到集合”上计算，但读者模型最终只看到经过截断、压缩和装箱后的上下文。在固定预算下，检索到所有金标准文档仍不够，因为装箱器可能保留冗余文档、丢掉真正含答案或连接多跳证据的片段。作者因此定义 answer-in-context：标准化后的金标准答案是否以连续 token span 出现在读者实际消费的上下文中。HotpotQA 上该指标与 F1 的相关系数为 0.50，而 recall@5 只有 0.31；答案在上下文中时平均 F1 为 0.596，否则为 0.123。论文的核心动机不是再造一个检索器，而是把“读者究竟看到了什么”从日志盲区提升为可优化对象。
2. 方法详解
首先，作者把 answer-in-context 定义为二值指标：给定问题的金标准答案集合 A 和已装箱上下文 C，只要某个经过规范化的答案 a 作为连续 token 子序列出现在 C 中，指标就为 1。配套记录三个诊断量：gold-doc reader coverage，即有片段进入 C 的金标准文档比例；all-gold-in-reader，即所有金标准文档是否都进入 C；gold-token density，即 C 中来自金标准文档的 token 比例。这些量都在装箱以后计算，和检索集合上的 recall@k 有明确边界。
第二部分是 budgeted submodular evidence packing。给定候选片段、硬 token 预算 B 和片段数量上限，作者最大化 F(S)=w_rel Rel(S)+w_qry QueryCov(S)+w_cov Repr(S)+w_div Div(S)，并约束 cost(S)≤B。四项分别表示单片段相关性、对不同 query 内容词的覆盖、对候选证据质量的代表性、以及跨文档多样性。实验默认权重为 w_rel=1.0、w_qry=0.5、w_cov=0.4、w_div=0.3，代表性项的饱和系数 alpha=0.3。Rel 使用与 focused heuristic 相同的词法相关性，确保比较只差在选择目标；QueryCov 是集合覆盖，Repr 使用带饱和上限的 facility-location 形式，Div 则对不同文档的相关性质量开平方，抑制重复来源。
优化器是按 token 成本缩放的贪心算法：每一步选择“可行片段的边际增益/token 成本”最高者；随后加入 Lin–Bilmes singleton fallback，避免单个高价值片段被贪心拆散。对照包括按相关性拼接的 naive packer、偏好新 query 词和不同文档的 focused heuristic、lambda=0.7 的 MMR，以及把 chunk 表示和 ACE 图结构证据分别纳入的 factorial。HotpotQA 使用 bge-small-en-v1.5 embedding，截断到 320 维，Qwen2.5-3B-Instruct 作为 reader，双 T4 GPU，500 个问题、160 token 预算，主结果在种子 42、13、7 上复现，并用 10,000 次 bootstrap 和 95% 置信区间检验。
3. 核心技术贡献
第一，answer-in-context 不是 recall 的换名：在 HotpotQA 的 10,500 条 policy×question 记录上，仅用 recall@5 的 F1 回归 R²=0.086，加入该指标后升到 0.257，增量 ΔR²=0.17；两者自身相关只有 0.41。第二，子模装箱将相关性、query 覆盖、代表性和多样性放在同一预算目标里，直接优化证据密度，而不是泛化地追求更高 recall。第三，论文给出作用边界：方法需要多跳互补结构、检索先把证据暴露出来、预算紧但没有极端紧、并且 reader 足够弱到让证据密度成为瓶颈。这个 scope map 比声称 packer 对所有 RAG 都有效更可操作。
4. 实验结果分析
HotpotQA 三种子均值如下：
| 策略 | F1 | EM | Tokens |
|---|
| naive chunk packed | 0.400 | 0.306 | 151.1 |
| focused chunk | 0.429 | 0.331 | 152.1 |
| MMR chunk | 0.410 | 0.318 | 151.7 |
| submod chunk | 0.451 | 0.359 | 145.5 |
| oracle mixed | 0.601 | 0.487 | 141.7 |
submod chunk 相比 focused 提升 +0.022 F1，相比 naive 提升 +0.051 F1，同时平均只用约 145.5 token；它在三个 seed 上都是最佳固定策略。消融式 factorial 还揭示，ACE 图证据已经做过压缩去重，继续使用子模装箱反而让 ace_submod 比 ace_focused 低 0.021 F1，说明图压缩和装箱是部分替代关系。逐题分析显示，提升的 81% 来自 37 道题：装箱器让答案首次进入 reader context，每题约带来 +0.39 F1；所有金标准文档进入上下文的题目数由 focused 的 256 增到 289。
诊断在五个数据集上的 answer-in-context–F1 相关为 HotpotQA 0.50、MuSiQue 0.54、2WikiMultiHopQA 0.55、RAGBench CovidQA 0.39，ExpertQA 因开放式答案几乎不出现连续答案 span 而退化。2Wiki 的干预实验尤其重要：packer 把 gold-doc coverage 提高 +0.054，但 answer-in-context 反而 -0.007、F1 -0.008，p=0.44；覆盖率上涨却没有把答案放进上下文，所以准确率不涨。MuSiQue 也显示仅提高检索宽度无效：recall@5=0.506、all-gold@5=0.184，submod 相对 focused 只有 +0.011 F1 且 p=0.34。reader 规模阶梯为 3B→7B→14B：对 focused heuristic 的 packer 优势在 7B 被吸收，14B 时显著反转，但对 naive packing 的优势仍然存在。
5. 局限与未来方向
作者明确把方法定位为条件性收益，而非通用 RAG 路由器。answer-in-context 依赖答案能以连续 span 出现，对 ExpertQA 这类长答案或需要释义的场景会失效；论文建议未来加入语义/蕴含版本。子模 packer 不能挽救检索没有暴露的证据，也不保证在已有 ACE 图压缩后继续有效。更大的 reader 会自行吸收部分装箱收益，14B 已出现反转，因此不能把 3B 结果直接外推到生产大模型。作者还指出约 20% 的问题像“answer-in-context lottery”，离线特征路由器无法可靠识别，故不把 oracle 当成可部署方案。
6. 工业实践意义
对社区搜索的 RAG 问答，第一步不是继续把候选数从 top-20 扩到 top-100，而是在线 trace 中记录 retrieved set、压缩结果、最终 packed context 和答案 span 是否存活。离线面板至少同时展示 recall@k、gold-doc reader coverage、answer-in-context、最终 EM/F1，并按短文本、实体多跳、评论引用和长尾 query 分桶。这样能区分“召回没找到”“压缩丢了”“reader 看到了但不会答”三类故障。
如果候选已经覆盖答案，可以先实现一个无需训练的 cost-scaled greedy packer：相关性作为主项，加入 query 词覆盖、跨帖子代表性和来源多样性，按 marginal gain/token 选择片段；对 160 token 一类的紧预算特别有价值。部署时必须把生成式摘要或压缩限制在证据来源范围内，保留原片段、版本和可回溯指针，避免摘要把答案改写成不可匹配文本。若 answer-in-context 不升，继续增加召回只会增加延迟和 token 成本；若它升但 F1 不升，再检查 reader 能力与答案形式。最终可用该指标约束 nDCG/CTR 之外的生成质量，形成“候选相关性—证据存活—回答正确性”的三段式验收。
NVIDIA
LG AI Research