On the impact of retrieved content representations in RAG Pipelines
多数 RAG 流水线沿用为「人类读者」设计的检索组件,但当下游消费者是 LLM 而非人时,检索内容应如何表示并不清楚。论文做了一项控制实验:固定检索结果,只改变文档表示,把原始基线与覆盖筛选 (selection)、摘要 (summarisation)、改写 (reformulation) 三类共 13 种变换做对比,并区分 query 相关与 query 无关两种设定,系统性地考察哪种表示特征对生成最关键。
INSIGHT价值在于把「喂给 LLM 的文档该长什么样」从零散的单点改造,变成一个可控的、13 种变换横向对照的实证结论,明确了 selection/summarisation/reformulation 哪类更影响下游生成。对社区搜索的启示:在 LLM 重排或问答场景中,召回后对 UGC 文本做面向 LLM 消费的表示改造(裁剪冗余、按 query 重组),可能比单纯堆召回量更划算,且这是低成本即可上线的工程改造点。