Working Notes on Late Interaction Dynamics: Analyzing Targeted Behaviors of Late Interaction Models
针对 Late Interaction 模型(如 ColBERT)在检索中的底层动态机制缺乏深入研究的问题,系统分析了两个关键现象:多向量评分引入的长度偏差(length bias)以及 MaxSim 操作符聚合之外的相似度分布特征。在 NanoBEIR 基准上对 SOTA 模型进行实验,结果表明因果式 Late Interaction 模型确实存在理论预测的长度偏差,而双向模型在极端情况下也会受到影响。研究还发现 top-1 文档 token 之外无显著相似度趋势,验证了 MaxSim 有效利用了 token 级相似度分数。
INSIGHT该研究揭示了 ColBERT 类模型的长度偏差问题——长文档在多向量评分中天然获得更高分数,这对 UGC 搜索场景(帖子长度差异大)尤为关键。实践启示:(1) 部署 Late Interaction 模型时应考虑文档长度归一化策略;(2) MaxSim 算子已经足够高效地利用了 token 级交互信息,额外利用非 top-1 的相似度信号意义不大;(3) 双向编码器(如 ColBERTv2)的长度偏差较因果模型小,但在极端长度差异场景下仍需关注。