Diffusion-GR2: Diffusion Generative Reasoning Re-ranker
论文提出 Diffusion-GR2,把自回归生成式推理重排器转换为 block-diffusion 解码器,以降低长推理链逐 token 解码的延迟。方法包含三步:conversion fine-tuning 学会输出合法候选排列,on-policy distillation 用模型自身轨迹接受 AR teacher 的逐 token 监督,最后用重排 reward 做强化学习;作者在 Amazon Beauty 上报告接近 AR-GR2 的重排精度,同时通过块内并行去噪提升解码吞吐。
INSIGHT这篇更偏生成式重排,但对搜索重排有一个清晰启示:LLM 重排真正贵的不是输出最终列表,而是生成中间推理。若社区搜索要在 Top-K 帖子上使用推理型重排,可以借鉴它的“保留候选排列约束 + 压缩推理解码成本”思路;不过当前证据集中在单一推荐数据集,落地前需要先在搜索 nDCG、CTR proxy 和延迟预算上复验。