Deeper Insights into Retrieval-Augmented Generation: The Role of Sufficient Context
Google Research 提出「充分上下文」概念,揭示 RAG 系统中检索到不充分上下文反而会大幅增加幻觉。
INSIGHT向 LLM 提供不充分的检索上下文,幻觉率从 10.2% 飙升至 66.1%——额外上下文并非总是有益,关键在于上下文是否「充分」。选择性生成(结合充分性信号和置信度)可有效降低幻觉。
业务关联社区搜索的 RAG 场景中,短文本 UGC 内容常导致检索结果不充分。该研究提示需要在生成前判断上下文充分性,对不充分场景选择拒绝回答而非强行生成,直接提升搜索结果可靠性。
证据在 Gemma 模型上,无上下文幻觉率 10.2%,不充分上下文幻觉率 66.1%;使用充分性标签的选择性生成准确率提升最高 10 个百分点(FreshQA、HotPotQA、MuSiQue 三个数据集验证)。