02 4.40
在古典阿拉伯诗歌库里找诗,关键词检索 BM25 和向量模型谁更好?这篇论文发现,答案主要取决于用户还记得多少原文。用户半记得几句原话时,BM25 比 9 个向量模型都好;用户只能描述诗讲了什么时,BM25 掉到 10 个系统里的第 8 名。作者通过改写同一批查询证明,排名主要由查询里有没有原文决定:给查询补上半句原诗,BM25 的召回率涨 37.8 个点。
03 4.40
两个用户想买同一件商品,一个写“我要草莓味、无乳糖的希腊酸奶”,另一个写“我在找一款希腊酸奶,它是草莓味的,而且无乳糖”,还顺手把一个词拼错了,搜索结果会一样吗?这篇论文用亚马逊三个品类的真实用户评论做了一个基准 PQB,专门测同一需求换种说法后结果稳不稳。核心商品词完全相同、只改句子结构时,在至少有一条查询把目标商品排第一的查询对里,有约 27% 到 52% 的情况另一条没排进第一。按用户自己的打字习惯加入拼写错误后,前 20 条的命中率最多降低 12.3 个百分点。整体效果更好的模型不一定更稳。
04 4.30
cross-encoder 给候选文档重排最准,但每次查询都要把每个候选完整算一遍。这篇论文给更快的 MICE 结构补上了文档存储方案 MICE-P,排序质量接近 cross-encoder,耗时约为它的四分之一。MICE 前几层让查询和文档各自编码,文档这段可以提前算好;后几层让查询词用注意力去看存好的文档词表示。MICE-P 把文档词向量压到 128 维,用 PLAID 格式压缩存储,查询时解压再打分;PLAID 把词向量聚成若干中心,每个向量只存最近中心的编号和量化后的残差。在 BEIR 公开数据集上,它的 nDCG@10 平均只比同级 cross-encoder 低 0.9 分。
05 4.10
检索增强问答系统常给网页片段附上采集日期,这篇论文发现,这个只代表哪天抓下来的字段能把大模型的答案带偏,而它并不代表内容哪天更新过。比如问某个冰球运动员在某一天效力于哪支球队:旧版本写的是旧球队,新版本在提问日期之前修订过,写的是转会后的球队,所以正确答案在新版本里。上下文同时放两个版本,正文和修订时间都不变,只把提问日期和它的后一天这两个采集日期在两版之间对调,让旧版本的采集日期恰好等于提问日期。实验用了 595 个维基百科页面。这一对调让 5 个开源大模型答对新版本答案的精确匹配率下降 37.6 到 51.4 个百分点;明确告诉模型不要按采集时间选答案,损失几乎没有变小。
06 4.00
做检索增强的少样本判断时,比如对照一堆政策条文做判断,关键证据常埋在又长又杂的检索段落里,示例里的原始段落也会带进大量干扰信息。这篇论文的做法是,把示例里的原始检索段落换成大模型针对这道判断生成的精简证据摘要,生成时不看专家答案,之后再配上专家标注的答案和证据。测试时一次调用先写证据摘要,再给出判断和依据。在一个合成的政策检索任务上,准确率比示例数相同、只用专家示例的做法高 33.0 个点,在 SciFact 科学论断核查上高 8.0 个点。
07 3.90
检索增强生成(RAG)答不好长文档问题,是检索没找全,还是模型没读懂?这篇论文要求模型在给答案的同时标出逐行引用,并同时检查答案对不对、引用的原文行能不能支撑答案。在 8 个闭源前沿模型和 3 个开源模型上,结论是瓶颈主要在检索:按相似度检索很容易找到某一段相关内容,却很难把多事实问题需要的段落找齐;切块还会丢掉文档层面的信息,比如这段话出自哪篇论文,让需要靠出处定位的问题答错。把整份材料直接交给长上下文模型,这两个问题都能避开。
08 3.85
超算中心收到的用户问题,大多在用户手册或别人以前提的工单里早有答案,只是手册难翻、别人的工单用户搜不到。普渡大学这篇论文做了一个助手:一个工具对实时文档做检索增强生成,另一个是用历史工单的问题和解决记录微调过的 Llama-3-8B,最后一步把两边的回答综合成一份,并附上来源链接。在 400 条留出的工单上,把工单解决记录改写成用户能自己照做的指南再微调,效果最好;但合并后的系统没有超过单个工具,合并结果 78% 的时候都跟着文档工具走。
09 3.45
描述一个城市片区,可以用卫星图、文字描述,也可以用 OpenStreetMap 地图里的路网和设施结构,但现有方法大多只对齐图像和文字。这篇论文提出 GeoLEON-CLIP,把每个网格片区的三种视图对齐到同一个向量空间,训练时让卫星图和文字描述都去对齐同一片区的地图结构向量,用它当连接图文的锚点;三个编码器都冻结,只训练投影头。先用卫星图检索出最匹配的一个地图网格,再用这个网格的地图向量去找文字,比直接用图找文字的首位命中率高 4.8 个点,反方向高 4.4 个点。下游测试把这些向量拼到原有特征上做线性回归,预测 Airbnb 房源价格和北京房价时,拟合优度 R² 提升最大。
10 3.30
用一句话在监控画面里找人,不仅要描述外貌,还要描述异常行为。难点在于训练只能用合成的图文对,测试却是真实监控画面,满是几乎相同的相邻帧和长得很像的干扰者。这篇论文把 Qwen3-VL 向量模型在合成描述上微调,把多个模型的相似度分数归一化后加权相加做召回,取排在前面的候选再用 cross-encoder 重排。所有参数都只用合成数据搭的验证集来挑,不碰官方测试图。最终在 AI City Challenge 的文本找异常行人赛道上 mAP 达到 94.78%,公开榜第 8 名。