INSIGHT稠密检索的性能可以用幂律公式精确预测：基于对比似然度(contrastive log-likelihood)指标，模型规模和数据规模与检索效果之间存在可预测的 scaling 关系。这为搜索模型的资源分配提供了定量指导。

业务关联社区搜索升级检索模型时，可利用 scaling law 预测不同模型规模和训练数据量下的 nDCG 提升，从而在有限预算内做出最优资源配置（增加模型参数 vs 增加标注数据）。

证据SIGIR 2024 发表。实验验证在 MS MARCO 等标准数据集上，使用对比似然度(CLL)指标，检索性能与模型规模/数据量之间的幂律拟合度 R² 接近 1.0。同时发现数据增强可显著提升标注效率。

INSIGHTMLLM 的因果注意力（只看前文）并不适合生成全局语义 embedding。CoCoA 引入协作注意力让 <EOS> token 从所有输入 token 中重建内容，迫使模型将完整语义压缩到单个表征向量中，显著提升后续对比学习效果。

业务关联社区搜索中短文本（帖子标题、评论）的 embedding 质量直接决定语义匹配效果。CoCoA 的内容重建预训练策略可迁移至文本 embedding 模型训练，在不增加推理成本的前提下提升 embedding 信息密度。

证据百度搜索团队(Dawei Yin)出品。基于 Qwen2-VL 和 Qwen2.5-VL 构建，在 MMEB-V1 基准上显著提升 embedding 质量。内容重建任务能有效最大化现有数据价值。

INSIGHT一个反直觉的发现：简单的免训练 query 扩展（LLM 直接生成伪文档/答案）在强 LLM 上往往持平甚至超越昂贵的 RL 微调改写方法。OPQE 混合策略将生成灵活性与定向优化结合，在多数基准上取得最优。

业务关联社区搜索可直接参考此发现：在已有强 LLM 的情况下，免训练的 query 扩展可能是性价比最高的检索增强方案，无需复杂 RL 训练即可提升短 query 召回。

证据在多个 IR 基准数据集上系统对比。结果显示免训练 query 扩展在使用强 LLM 时与 RL 方法持平或更优；OPQE 混合方法在多数数据集上超越两种单一策略。2026年3月更新 v2 版本。

INSIGHT通过稀疏自编码器将稠密 embedding 压缩到高维稀疏空间，在高压缩比下性能远超 Matryoshka 方法：CompresSAE 可以匹配 4 倍大模型的检索效果，同时内存开销降低数倍。

业务关联社区搜索的向量检索索引随用户和内容增长面临内存瓶颈。CompresSAE 可直接用于压缩帖子/评论 embedding，在保持 nDCG 不降的前提下将索引内存减少到原来的 1/4。

证据在多个推荐/检索数据集上对比 Matryoshka representation learning。CompresSAE 在 4x 压缩比下检索效果匹配 4 倍大模型，在高压缩比区间显著优于 Matryoshka。代码已开源。

INSIGHT标准 InfoNCE 损失导致正负样本相似度分布高度重叠，难以区分困难负样本。LLaVE 的难度加权策略根据样本判别难度动态调整梯度，使 2B 模型超越此前 7B SOTA，7B 模型再提升 6.2 个百分点。

业务关联该难度加权对比学习策略可直接用于训练社区搜索的文本 embedding 模型：帮助模型更好区分语义相似但不相关的帖子/评论（困难负样本），提升短文本检索精度。

证据EMNLP 2025 录用。在 MMEB 基准(4 个元任务 36 个数据集)上：LLaVE-2B 超越此前 7B SOTA，LLaVE-7B 比前 SOTA 提升 6.2 分。零样本迁移到文本-视频检索任务同样有效，展示良好泛化性。

INSIGHT将 query 优化拆解为五阶段生命周期：意图识别→查询变换→检索执行→证据整合→响应合成，并将核心操作归纳为四种原子操作(扩展/分解/消歧/抽象)。为 RAG 系统的 query 层优化提供了完整技术图谱。

业务关联社区搜索引入 LLM 时，面临 query 理解和改写的技术选型问题。该综述的 QOL 框架和 90+ 方法的系统分析，可直接指导选择适合 UGC 短文本的 query 优化策略。

证据综述覆盖超过 90 篇代表性方法，按意图识别、查询变换、检索执行等 5 个阶段组织。提出的 Query Complexity Taxonomy 按证据类型和数量分类 query 复杂度，帮助从业者选择匹配的优化策略。

INSIGHT当前多模态检索模型大多局限于文本+视觉两种模态。OmniRet 通过 Attention-based Resampling 降低计算开销，用 Attention Sliced Wasserstein Pooling 保留细粒度信息，首次实现三模态组合查询的统一检索。

业务关联社区搜索中用户帖子越来越多包含图文混排甚至音频/视频内容。OmniRet 的多模态检索架构为未来社区搜索升级到多模态提供了技术方向。

证据CVPR 2026 录用。在 30 个数据集 (~6M query-target 对) 上训练，跨 13 个检索任务评测。在组合查询、音频和视频检索任务上显著优于现有方法，同时在传统任务上保持 SOTA 水平。

INSIGHT当前稠密检索器在需要推理的复杂 query 上表现不佳。RaDeR 的核心思路是从 LLM 的「检索增强推理轨迹」中提取训练信号，并结合自反思式相关性评估生成多样化困难负样本，使检索模型获得隐式推理能力。

业务关联社区搜索中部分 query 需要推理理解（如「哪些帖子讨论过这个问题的解决方案」），RaDeR 的推理感知训练方法可增强检索器对此类复杂意图的理解能力。

证据在 BRIGHT (推理密集检索基准) 和 BEIR (通用检索基准) 上评测。虽然仅用数学推理数据训练，但 RaDeR 在 BRIGHT 和 BEIR 两个异构基准上均显著优于标准稠密检索器，证明推理能力可跨任务泛化。

INSIGHT传统判别式双流架构难以建模电商商品中「多图+多文本 → 统一表征」的多对一对齐关系。MOON 利用生成式 MLLM 的序列理解能力，配合引导式 MoE 模块和核心语义区域检测，首次在生成范式下解决商品表征学习。

业务关联虽然面向电商场景，但 MOON 的生成式 MLLM 表征学习思路（MoE 建模不同方面、噪声背景过滤）可迁移至社区搜索：社区帖子也包含多图文内容，需要统一表征来支撑检索和理解。

证据阿里巴巴(Bo Zheng 团队)出品。在自建大规模多模态基准 MBE 和公开数据集上，MOON 展示出竞争力的零样本表现，在跨模态检索、商品分类、属性预测等多个下游任务中泛化良好。