ColBERTSaR: Sparsified ColBERT Index via Product Quantization
论文解决 ColBERT/PLAID 多向量检索“索引过重”的痛点:PLAID 类索引占用是原始文本的 5-10 倍磁盘,且 query 时对 token embedding 的 gather 与解压是主要耗时来源。作者提出一种 embedding 量化方法,把 ColBERT 索引转成真正的倒排索引(true inverted index),并从理论上证明“带 embedding 量化的 ColBERT 除打分机制外等价于 learned-sparse retrieval(学习型稀疏检索)”。实验显示该索引比 1-bit PLAID 索引小 50-70%,同时基本保持检索效果。
INSIGHT把 late-interaction(后期交互)多向量检索与 learned-sparse 检索在理论上打通是这篇的最大价值——它说明 ColBERT 的 MaxSim 打分本质上可以架在倒排索引之上,从而复用成熟的稀疏检索基础设施。对短文本社区搜索,这给出一条“既保留 token 级语义匹配精度、又把索引压到稀疏倒排量级”的工程路径,50-70% 的索引体积下降直接关系到召回服务的存储与延迟成本。