Closed Forms and Synthetic Twins: Predicting Approximate Nearest Neighbor Recall from Embedding Statistics
论文指出向量模型的离线精确检索指标无法预示 HNSW、IVF、PQ 或 late-interaction FDE 索引中的真实召回,某现代编码器经原始 FDE 索引仅恢复精确 Top-10 的 14%。作者用原始向量的无标签统计量、固定网格量化的闭式矩以及保持簇统计的“合成孪生”语料,在建索引前预测不同索引族的召回行为。
INSIGHT搜索团队不应只在编码器训练结束后才用完整语料压测 ANN;向量分布的矩、各向异性和簇结构可成为上线前的索引适配门禁。对频繁更新的 UGC 语料,这种免标签、免全量建库的诊断能提前发现压缩或固定维编码造成的召回坍塌,也减少反复拟合 whitening 的维护成本。