Adaptive Instructed-Retriever: Frontier-Quality Search at 2x Lower Latency
Databricks把并行检索与串行多跳搜索合并,用CISPO在线强化学习学习何时继续搜索、何时停止,并惩罚无收益的额外步骤。在7个留出内部及公开基准上,官方报告平均端到端延迟5.8秒,在接近对照模型质量的情况下快两倍以上。
INSIGHTUGC复杂查询可设置检索轮数上限,并用召回质量与步骤成本共同训练停止策略,简单查询及时返回。步骤惩罚应结合线上延迟预算调节;博客中的5.8秒是企业检索测试结果,不能直接视为社区搜索的可接受时延或CTR收益。