IMRNNs: An Efficient Method for Interpretable Dense Retrieval via Embedding Modulation
提出 Interpretable Modular Retrieval Neural Networks (IMRNNs),一个轻量级框架,可在推理时为任意稠密检索器添加动态双向调制能力。通过两个独立的 adapter:一个根据当前 query 调制文档 embedding,另一个利用初步检索结果的语料级反馈来优化 query embedding,实现了 query 和文档表示的动态适配。
INSIGHT传统稠密检索使用静态 embedding,query 和文档各编码一次就完事。IMRNNs 的核心洞察是:好的检索需要 query-aware 的文档表示和 corpus-aware 的 query 表示,两者应该互相适配。这种即插即用的双向调制思路可以增强现有任何检索模型。
业务关联社区搜索的 UGC 内容高度多样化,静态 embedding 难以覆盖所有语义场景。IMRNNs 可以作为现有检索系统的增强模块,以较低成本提升召回质量,特别适合已有基础 embedding 模型但希望进一步提升的团队。
证据在 7 个标准检索 benchmark 上,对比 SOTA 方法平均提升 nDCG +6.35%、Recall +7.14%、MRR +7.04%。轻量级设计使得推理延迟增加可控。