02 4.40
用注意力做重排,是看大模型里几个专管检索的注意力头从问题出发,把多少注意力分给每个候选文档。可问题本身往往很短,能提供的线索有限。Re³Rank 先让模型针对问题和候选写一段推理,再拿这段推理的 token 去读这几个注意力头,把分到的注意力当作相关分。推理是采样出的离散 token,梯度传不回去。训练时前向照常用采样出的推理打分,反向时改用生成模型给出的 token 概率去加权 embedding,排序损失就能一路训练到写推理的那部分。在 9 个基准上,它平均比最强基线高 3.11 个 NDCG 点。
03 4.40
做深度研究的 agent 读论文时,通常先把页面 OCR 成文字,表格、图和公式在这一步就丢了不少。DR Pixel 干脆不转文字,把 106 万页论文渲染成图片,检索和推理都直接对着页面图片做。不经任何训练,这种做法在几个最强的闭源和开源模型上都比先 OCR 的流程答得好,调用工具的次数也更少。作者再用老师模型的轨迹微调开源模型,并给每一步单独定权重:把这一步删掉,看最终答案的质量变化多少,变化越小权重越低。训练后检索召回提高约 15 个点,答题准确率提高 10 个点以上。先 OCR 再检索这一步不但多余,还拖了后腿。
04 4.40
搜索时人们常在 query 后面加要求,比如要写给新手的、要某种语言的、只要官方来源。多数重排模型只学过判断主题相关,把这些要求当成几个多余的词。InfoSearch 基准用 WISE 分衡量这件事,加上要求后符合条件的文档往前挪、换成相反要求时往后挪,就得分,排名越靠前的挪动分量越重。就连用 GPT-4o 做重排,WISE 平均也只有 33.5。DMReranker 把带要求的 query 拆成主题和几条具体条件,让一个小模型对每条条件只回答一个窄问题,再把各题判定满足的概率乘起来当总分。整个过程不训练任何参数,WISE 达到 50.9。把一句复杂要求拆成几道小题,比让大模型一次判断整句更可靠。
05 4.10
用蒙特卡洛树搜索帮大模型在知识库上一步步查答案,难点在于怎么给中间步骤打分。一种做法是每一步都模拟到底再看答案对不对,代价很高。另一种是另训一个奖励模型,需要大量数据。这篇论文把截至这一步的查询记录交给一个开源指令模型,分别算带上原问题和不带原问题时这段记录的困惑度。带上问题后困惑度降得越多,说明查到的东西和问题越相关,这一步的奖励就越高。这样只需几次前向计算,不用模拟到底,也不用训练奖励模型。在 4 个 KBQA 基准上,它稳定好于不做搜索的逐步方法;和模拟到底的经典树搜索比,准确率和成本的权衡一般更好。
06 4.00
用户的问题常常缺关键信息,大模型却很少反问。作者在真实用户提问上测了多个大小不同的模型,缺信息的问题里只有不到 11% 会换来一个追问。作者从完整问题里删掉细节造出模糊版本,删了什么事先已知。训练方法 DialogGRPO 先用外部大模型离线把对话展开成一张图,节点是已经问出了哪些信息,边是候选追问。每个追问新问出几条可以直接数,再从它之后的状态在图上随机走几条后续路径,取问出信息的平均值,两者合起来就是它的分数。训练后,模型在 88% 以上的模糊问题上问出了缺失信息,对完整的问题也不乱问。
07 4.05
电商搜索判断商品和 query 相不相关,难在几方面证据会互相打架:属性看着对,用户意图却不对,业务规则又另有要求。一次推理很难把这些冲突理清。CADRE 让三个专家分别看商品属性、用户意图和业务规则,它们共用同一个冻结的大模型,再由一个可训练的裁判模型检查各自的证据。专家意见不一致时,裁判针对分歧追问,让专家澄清或修改后再下结论。这套流程太重,线上用不起,作者把它当老师,蒸馏成一个轻量模型上线。在搜索广告平台各占 10% 流量的 7 天 A/B 测试里,业务指标和相关性满意度都有提升。
08 4.00
多模态检索里,一条视频可能缺音频、字幕又有噪声,只靠这条样本自己的几种模态很难学好表示。这篇论文在训练时把每条样本的每种模态当成一个节点,用超图的边把同一样本的几种模态、以及语义相近样本的模态连在一起,一条边可以同时连好几个节点。特征沿这些边互相传递,一条样本的表示就掺进了相似样本的信息。缺的模态不成节点,也不去补。这些信息在训练中被学进了编码器,检索时编码器直接给出表示,超图丢掉不用,流程和开销都不变。在 17 组视频设置上,它在两个检索方向都好于现有的多模态对齐方法 GRAM,文本搜视频的平均 R@1 从 63.4 提到 68.2。即使九成片段缺一种模态,提升依然存在。
09 4.00
已录用 CIKM 2026IIFlyTek (China)UUniversity of Science and Technology of China
让做深度研究的 agent 写商业分析报告,常见三个毛病。意图没问清,搜着搜着就跑题。网页内容很快塞满上下文。报告一次写完,覆盖不全。Mind2Report 照着分析师的做法来,先把用户真正想要的拆细,列出提纲。然后逐层搜网页,把核实过的证据摘进一份研究笔记,而不是把原网页塞进上下文。提纲随着笔记不断调整,最后按提纲分多轮写成报告。作者还建了一个包含 200 个真实商业任务的评测集,从质量、可靠性和覆盖面打分,Mind2Report 在上面优于主流的闭源和开源同类 agent。
10 3.75
已录用 CIKM 2026
Beihang University
Chinese Academy of SciencesIInstitute of Computing Technology
RAG 检索回来的文档可能带着隐私,只在单篇文档里抹掉名字还不够,几篇文档拼起来,被删掉的信息仍可能被推出来。这篇论文先把检索到的多篇文档抽成一张统一的知识图谱,把哪些事实算隐私交给使用者指定,再训练 Flan-T5 改写文档,删掉隐私事实、保留公开事实。之后用 PPO 继续优化,改写后留下的隐私越少、保住的公开知识越多,奖励就越高。在 4 个问答数据集上,它抹除隐私的效果好于直接让 GPT-4o 改写。