Computed, not Memorized: Bit-Factorized Identifiers for Efficient Generative Retrieval
本文提出按位分解的数字文档 ID,使 token 得分由各 bit 的模型表示共同计算,减少依靠索引训练死记文档码的问题。在三个检索基准评估中,未见文档 Hit@10 提升超过 20 个百分点,NQ320K 与 TriviaQA 推理延迟最高降低 7 倍;MS MARCO 无额外训练时比更新权重的方法低约 3 个百分点。
INSIGHT社区帖子持续新增,生成索引能否在不重训时为新内容打分,比静态语料上的单次召回更关键。可借鉴组合式 ID 评分,分别测试新旧文档、固定候选预算和延迟;论文数字来自不同基准,不能把最高加速与最大召回增益当作同一配置的承诺。