Rethinking the Necessity of Adaptive Retrieval-Augmented Generation through the Lens of Adaptive Listwise Ranking
提出 AdaRankLLM,一个自适应检索排序框架。通过 zero-shot prompt + passage dropout 机制实现自适应 listwise 排序,能动态判断是否需要检索补充段落。为使小型开源 LLM 具备精确的列表排序和自适应过滤能力,引入两阶段渐进式蒸馏范式(数据采样+增强技术)。在 3 个数据集和 8 个模型上的大规模实验验证了方法的有效性。
INSIGHT随着 LLM 对噪声的鲁棒性不断增强,自适应检索的必要性需要重新评估。passage dropout 机制通过随机丢弃候选段落来训练排序器判断哪些文档真正有用,这一思路可直接应用于搜索重排序场景:在 UGC 搜索中,许多召回结果表面相关但实际无用,自适应过滤可显著提升精确度。两阶段蒸馏为部署小模型排序器提供了可行路径。