Integrating Chain-of-Thought into Generative Retrieval: A Preliminary Study
生成式检索(GR)直接把 query 映射到 docid,缺少中间推理,难以应对需要多跳推理的复杂 query。ThinkGR 在单个生成过程内把 CoT 与 docid 生成交错:用混合解码在「自由思考」与「受约束 docid 解码」间动态切换;两阶段训练先用 SFT 对齐思考-检索模式,再用 retrieval-grounded RL 优化思考质量。在 4 个多跳检索 benchmark 上取得 SOTA,平均提升 +6.86%。
INSIGHT把显式推理引入生成式检索的 docid 生成,是解决复杂/多跳 query 召回的一条新路径。混合解码(思考段不约束、docid 段用前缀树约束)的设计值得借鉴:它在保留 LLM 推理能力的同时保证检索目标的结构合法性。社区搜索中「绕弯子」的长尾 query 同样受益于 query 侧多跳推理,但需权衡生成式检索的解码延迟与索引更新成本。