Closing the Indexing-Decoding Gap in Multimodal Generative Retrieval via Prefix Retention Optimization
论文分析多模态生成式检索中 residual quantization 建立离散标识、trie beam search 解码之间的 gap,提出 PRO。它用 prefix ranking distillation、扩大 codebook 的 vocabulary scheduling、以及 geometric score fusion 改善前缀存活;在 9 个多模态检索任务上提升目标标识保留率。
INSIGHT对 UGC 搜索中的生成式召回,Semantic ID 的训练目标必须直接约束解码时的前缀竞争,否则离线索引质量可能在 beam search 中被提前截断。工程上可先复现 listwise 前缀蒸馏,再用分层词表和向量相似度重排 beam;上线前应同时看 prefix retention、召回率与解码延迟。