Predicting the Benefit of Retrieval Augmentation in Open-Domain Question Answering
论文研究“什么时候检索反而会伤害回答”,比较检索信号、答案特征、回答与证据的一致性,以及探测语言模型内部状态等预测器。作者据此构建按问题动态选择“检索”或“不检索”的选择性RAG框架;在开放域问答实验中,选择性应用检索的答案质量超过对所有问题都检索的策略,论文包含3张表和4幅图。
INSIGHT对社区搜索而言,检索不是越多越好:短、明确且已有高置信候选的query可以直接走轻量排序,低置信或证据不足的query再触发扩展、混合召回或LLM重排。建议把“是否值得扩大候选集”建成一个独立门控模型,用离线答案质量、点击后满意度和延迟共同校准,而不是只优化固定召回率。