ColBERTSaR: Sparsified ColBERT Index via Product Quantization
针对 ColBERT 多向量索引需要大量存储、查询时还要聚集和解压 token 向量的问题,论文在冻结 ColBERT 上训练产品量化码本,把每个 passage token 映射为 centroid ID,使用倒排索引召回,并可用原始 MaxSim 做二阶段重排。在 BEIR 复现实验中,索引相较 one-bit PLAID 缩小 50%–70%,同时保持检索效果;开源实现支持分片、断点续跑和 CPU 搜索。
INSIGHT对于短文本 UGC 检索,ColBERTSaR 提供了在效果与索引成本间折中的清晰路径:先用 centroid 倒排做高召回候选,再只对小集合恢复完整 MaxSim。落地前应重点测量量化误差、nprobe、Top-K 与尾部 query 的召回损失,并把 query-aware codebook 训练纳入索引更新流程。