Beyond the Final Embedding: Retrieving Memories from Token-Level Evidence
单向量检索容易遗漏长帖子或对话中的局部证据。方法复用冻结编码器的 token 表征,通过全局稀疏 token 匹配与整条记忆相似度融合完成排序;Qwen3-Embedding-4B 在八项基准上的平均 Recall@10 从 62.5% 升至 73.8%,加入查询适配后达到 75.7%。
INSIGHT社区 UGC 搜索可把局部关键词与语义证据作为独立匹配通道,避免整篇表征掩盖关键细节。先测试无训练融合,再考虑只更新查询侧的低秩适配器;但必须同时测量索引大小和 P95 延迟,论文中未压缩 token 索引显著大于单向量索引,不能只依据离线 nDCG 决定上线。