2026-08-05 周三 · AI Search

独立报告页 · 在站内浏览(含往期切换)→
AI SearchAI 搜索 · 10 篇Agentic智能体搜索 · 10 篇Infra系统与索引 · 10 篇

今日场景社区搜索(UGC 短文本搜索):用户在社区平台搜索帖子、问答、评论等 UGC 内容,核心指标是搜索相关性(nDCG)和点击率(CTR),重点关注语义匹配、query 理解、短文本召回、排序模型及 LLM 在搜索中的应用。 — 评分 92 篇,入选 10 篇,分数 4.00 – 4.75

本期目录 · 10 篇
  1. 01SPEAR: Selection-aware Personalized End-to-end Adaptive Rewriting and Retrieval for Community Search
  2. 02Douyin Multimodal Embedding Model Technical Report
  3. 03CeQe: Grounding Lexical Retrieval in Semantic Evidence
  4. 04Advancing Relevance Measurement with Vision-Language Models for Web-Scale Search
  5. 05Tevatron Meets Megatron: Expert-Parallel LLM Reranker Training on an Academic Budget
  6. 06Index-Time Prefix Injection for Multi-Tenant Retrieval: Improving Search Relevance Without Model Fine-Tuning
  7. 07SERM: Self-Evolving Relevance Model with Agent-Driven Learning from Massive Query Streams
  8. 08Hierarchical BM25: Lexical Search at Billion-Document Scale
  9. 09UEmbed: Unified Sparse and Dense Multimodal Embeddings
  10. 10From Relevance to Authority: Authority-aware Generative Retrieval in Web Search Engines
LEAD STORY · 今日必读 · Dewu / NUS

SPEAR: Selection-aware Personalized End-to-end Adaptive Rewriting and Retrieval for Community Search

针对社区搜索中查询改写与检索目标割裂、泛化词改写稀释真实意图的问题,SPEAR 以梯度隔离的召回/排序双表征、乘法门控和动态改写选择器端到端优化点击目标。10 万工业会话上 Click Recall@10 从 0.1694 升至 0.3380,线上 QVCTR 与平均阅读深度分别提升 0.259% 和 0.733%。

相关 5新颖 4实用 5证据 5时效 5
4.75
综合分 / 5
偏好调整 5.00
KEY INSIGHT · 对业务意味着什么最值得复用的是把“改写是否被选中”作为受最终点击监督的隐变量,同时用独立召回空间阻断 CTR 梯度对语义几何的侵蚀。对 UGC 短文本搜索,可保留原 query 残差通路作为安全兜底,并用乘法门控要求选择置信度与 item 相关性同时为高,抑制宽泛热词带来的伪增益。
Wenbin Wu, Yuzhong Wu, Yufan Xu, Kuan Fang, Xing Xu, Cheng Ye, Xiaobin Hu · 2026-08-03 · arXiv
独立页面阅读 ↗

今日其余入选

9 篇 · 按综合排名
02 4.75

Douyin Multimodal Embedding Model Technical Report

ByteDanceRUC

DME 面向抖音十亿级多模态检索,用大规模对比预训练建立统一向量空间,再以证据落地的隐式推理和跨条件重建补足细粒度语义;重建仅用于训练,线上仍保持单次双塔编码。2B/9B 模型在 MMEB-v2 得分 74.8/78.4,抖音离线总分相对提升 2.92%,搜索 A/B 的 Lifetime 提升 0.1%。

INSIGHT该工作说明生成式监督不必等同于线上生成:可在训练期强迫 embedding 保留对端内容与局部证据,部署时仍走 ANN 友好的向量检索。对于图文混合的社区内容,应优先把 OCR、关键帧与细粒度属性纳入跨条件重建,并以离线可恢复性监控语义充分度,避免只优化全局配对相似度。

Haonan Chen, Chu Li, Zhicheng Wang, Yuanwei Liu, Yuanjiang Wang, Shaohua Jiang, Zhicheng Dou
arXiv·2026-08-03·Relevance 5 · Novelty 4 · Practical 5 · Evidence 5 · Timely 5
03 4.65

CeQe: Grounding Lexical Retrieval in Semantic Evidence

IBM

CE-QE 从语义检索 Top 结果中读取 cross-encoder 的 token 归因,只把决定相关性的原文词追加到 BM25 query,避免传统伪相关反馈自我强化,也不引入生成式扩展的幻觉词。七个 BEIR 数据集上,NQ Recall@100 从 0.32 提升到 0.47;SESF 融合在 nDCG@10 上分别超过 SPLADEv2 和 ColBERTv2 5.3% 与 4.6%。

INSIGHT这是一条低侵入的词法召回增强路径:复用已有重排器归因,不改 BM25 索引,就能把语义检索发现的证据词回灌到精确匹配通道。社区搜索可先在同义表达、品牌别名和口语 query 上试点,并对扩展词设置来源可追溯、数量上限与原 query 保留机制,降低 query drift 风险。

Adam Kahirov, Umesh Deshpande, Swaminathan Sundararaman
arXiv·2026-08-01·Relevance 5 · Novelty 4 · Practical 5 · Evidence 4 · Timely 5
04 4.50

Advancing Relevance Measurement with Vision-Language Models for Web-Scale Search

Pinterest

Pinterest 将微调 VLM 用作图文搜索 A/B 实验的五级相关性裁判,并通过分层 query 抽样计算 sDCG@25,降低人工标注的成本与周转限制。VLM 与人工标签完全一致率为 82.9%,94.2% 的差异不超过一级;新方案把相关性指标的最小可检测效应从 1.3%–1.5% 降至不高于 0.25%。

INSIGHT相关性自动评估的价值不只在替代标注员,更在于扩大样本并按兴趣类别、流行度分层,从而让小幅排序变化可被稳定检测。对 UGC 搜索,应把 VLM 指标作为 CTR 的护栏,以同一批 query 对照实验两组结果,并持续抽查头部/尾部 query 的人机偏差,防止互动提升掩盖语义退化。

Han Wang, Alex Whitworth, Pak Ming Cheung, Zhenjie Zhang, Krishna Kamath, Xi Chen, Roberto Konow, Ku...
arXiv·2026-08-03·Relevance 5 · Novelty 3 · Practical 5 · Evidence 5 · Timely 5
05 4.45

Tevatron Meets Megatron: Expert-Parallel LLM Reranker Training on an Academic Budget

University of UtahUniversity of WaterlooUniversity of QueenslandCMUUniversity of Virginia

Tevatron 3.0 把 Megatron-Core 后端接入重排训练链路,补齐张量、流水线和专家并行,同时保留既有数据、评测流程及 Hugging Face 检查点兼容性。推荐的单机配置训练速度比 FSDP 快 22%,专家并行让 30B MoE 重排器可在原预算内训练;BEIR-15 上 MoE 以不足一半激活参数匹配 dense-8B 质量。

INSIGHT若团队已用 Tevatron 训练 cross-encoder,这一升级把 MoE、LoRA、全参微调与 vLLM 服务纳入同一可复现实验面,能显著降低大重排器的基础设施门槛。实践中应先用单机分布式优化器复现质量与吞吐,再评估专家并行;不要只看总参数量,要同时比较激活参数、首阶段召回器差异与线上吞吐。

Zhichao Xu, Xueguang Ma, Shengyao Zhuang, Luyu Gao, Wenqian Ye, Yu Wang, Jamie Callan, Jimmy Lin
arXiv·2026-08-02·Relevance 4 · Novelty 4 · Practical 5 · Evidence 5 · Timely 5
06 4.30

Index-Time Prefix Injection for Multi-Tenant Retrieval: Improving Search Relevance Without Model Fine-Tuning

ServiceNow

ServiceNow 在文档入索引时追加领域描述前缀,使共享 embedding 模型把不同租户内容压入更紧凑的领域簇,无需微调或维护客户专属模型。前缀由 LLM、领域专家或标准库分级生成;方案覆盖 18 种语言和 400 多个客户实例,Hit@5 提升 3%–8%,线上 CTR 提升 4.2%。

INSIGHT索引侧前缀是一种极低成本的域适配手段,尤其适合无法上传租户数据或不允许单独训练的场景。迁移到社区搜索时,可按内容垂类、创作者类型或帖子形态生成短前缀,并离线检查跨域污染率;前缀必须稳定版本化,避免索引向量与在线 query 编码策略不一致。

Vaibhav Varshney, Manjunatha Naik Mc
网页来源·2026-07·Relevance 5 · Novelty 3 · Practical 5 · Evidence 5 · Timely 3
07 4.30

SERM: Self-Evolving Relevance Model with Agent-Driven Learning from Massive Query Streams

ByteDanceNortheastern UniversityPeking University

SERM 面向不断出现新表达与文化梗的真实 query 流,用多智能体样本挖掘器检测分布漂移、挑选信息量高的样本,再由多智能体相关性标注器通过两级一致性协议生成可靠伪标签。系统在日均数十亿请求的多语言工业文档搜索平台上迭代自进化,并以离线评测和线上实验验证持续增益。

INSIGHT社区搜索的长尾热点变化快,周期性全量重训既昂贵又容易被海量普通样本淹没;SERM 的可迁移点是先识别“模型正在失效”的漂移 query,再把高成本标注集中到这些样本。落地时应保留人工仲裁和稳定回归集,防止多个同源 LLM 的一致意见放大共同偏差。

Chenglong Wang, Canjia Li, Xingzhao Zhu, Yifu Huo, Huiyu Wang, Weixiong Lin, Yun Yang, Qiaozhi He, T...
网页来源·2026-07·Relevance 5 · Novelty 4 · Practical 4 · Evidence 5 · Timely 3
08 4.30

Hierarchical BM25: Lexical Search at Billion-Document Scale

IBM

Hierarchical BM25 将十亿文档划分为约 1000 个主题均衡簇,常驻粗索引先选簇,簇内仍用全局统计精确计算 BM25,把近似限制在候选簇选择。内存占用由约 400GB 降至 4.4GB,16 词 query 约 300ms,热缓存吞吐约 32 QPS,而平面索引不足 3 QPS;小规模实验保留 0.83–0.92 的结果分数。

INSIGHT该设计把词法召回的成本上限显式化,适合需要 BM25 精确词权但无法把全量倒排常驻内存的超大语料。真正上线前仍需补做十亿级 Recall@K,并与文档重排后的 BlockMax-WAND、MaxScore 比较;对 UGC 短 query,还要单独验证主题选簇是否会漏掉跨圈层术语和突发热点。

Umesh Deshpande, Swaminathan Sundararaman
arXiv·2026-07-31·Relevance 5 · Novelty 4 · Practical 4 · Evidence 3 · Timely 5
09 4.10

UEmbed: Unified Sparse and Dense Multimodal Embeddings

CASIAAlibabaUCASYale

UEmbed 在 decoder-only 多模态模型末尾追加 16 个特殊 token,并把词表聚类切成互斥子集,由各 token 预测一段稀疏权重;同一前向同时产出 EOS 稠密向量和可走倒排索引的稀疏向量。9B 版在 MMEB-v2 的 dense/sparse 得分为 71.8/71.0,混合打分在文本与视觉文档检索上继续增益。

INSIGHT统一稀疏与稠密表征可减少两套模型的训练和服务漂移,同时保留 ANN、倒排索引及 vLLM 兼容性。对图文 UGC 检索,可先用 2B/4B 版评估延迟与索引稀疏度,再决定是否扩大;词表分区和 FLOPS 正则必须与业务词频共同调参,否则稀疏输出可能在热门词上过度集中。

Tingyu Song, Mingxin Li, Yanzhao Zhang, Dingkun Long, Pengjun Xie, Zhijie Nie, Yilun Zhao, Shu Wu
arXiv·2026-08-03·Relevance 4 · Novelty 4 · Practical 4 · Evidence 4 · Timely 5
10 4.00

From Relevance to Authority: Authority-aware Generative Retrieval in Web Search Engines

NAVERSungkyunkwan University📖 有深读 · 8 分钟

AuthGR 针对生成式检索只优化相关性、可能把不可靠网页排到权威来源之前的问题,引入 VLM 多模态权威度评分、三阶段权威感知训练和混合集成部署。离线实验中 3B 模型匹配 14B 基线,同时提升权威性与准确率;NAVER 商业网页搜索的大规模 A/B 和人工评估也验证用户互动与可靠性改善。

INSIGHT社区搜索除语义相关外还需考虑作者可信度、内容出处和视觉证据,尤其在医疗、金融等高风险 query 上不能把点击热度当作权威。可把 authority 作为召回或重排的独立约束,与相关性分数做可解释融合;普通兴趣 query 应弱化该信号,避免权威偏好系统性压制新作者与长尾内容。

Sunkyung Lee, Jihye Back, Donghyeon Jeon, Soonhwan Kwon, Moonkwon Kim, Inho Kang, Jongwuk Lee
网页来源·2026-07·Relevance 4 · Novelty 4 · Practical 4 · Evidence 5 · Timely 3
独立页面阅读 ↗

其他赛道今日

点击切换
Agentic
10
智能体搜索 · 篇入选
Infra
10
系统与索引 · 篇入选

开源雷达

GitHub / HuggingFace 热门 · 8 个项目
iuiaeng2005/deepseek-vision-skillCodex skill: give text-only models (DeepSeek) image understanding via an external vision model (GLM-4V-Flash)JavaScript · ★ 7 · 2026-08-01 · GitHubVioletCranberry/coco-searchLocal-first hybrid semantic code search tool. Indexes codebases into PostgreSQL with pgvector embeddings via Ollama, combines vector similarity + keyword search with RRF fusion. Supports 30+ languages. Features CLI, MCP server, WEB dashboard and interactive REPL.Python · ★ 37 · 2026-02-16 · GitHubdvcdsys/code-indexSelf-hosted semantic code search platform — Go server with web dashboard, CLI, and AI-agent skills. Search code by meaning, not text: hybrid BM25 + dense embeddings via llama.cpp.Go · ★ 27 · 2026-03-17 · GitHubdeepseek-ai/DeepSeek-V4-Flash-0731pipeline: text-generation; tags: transformers, safetensors, deepseek_v4, text-generation, conversational, arxiv:2606.19348, license:mit, eval-resultsmodel · ★ 2276 · 2026-07-31 · HuggingFaceinternlm/Intern-S2-Preview-397Bpipeline: image-text-to-text; tags: transformers, safetensors, intern_s2_preview, image-text-to-text, conversational, custom_code, license:apache-2.0, region:usmodel · ★ 65 · 2026-07-16 · HuggingFacemoonshotai/PerceptionBenchPerceptionBench PerceptionBench: Evaluating Atomic Visual Perception in Multimodal Large Language Models Abstract We introduce PerceptionBench, a benchmark specifically designed to evaluate the atomic visual perception capabilities of Multimodal Large Language Models (MLLMs). Exi; tags: task_categories:visual-question-answering, language:en, license:cc-by-nc-4.0, size_categories:1K<n<10K, format:json, modality:tabular, modality:text, library:datasetsdataset · ★ 41 · 2026-07-23 · HuggingFaceAlibaba-DAMO-Academy/clinfusion-medical-vlmtags: gradio, mcp-server, region:usspace · ★ 3 · 2026-07-28 · HuggingFaceinternlm/WildClawBench-Trajectoriestags: license:apache-2.0, region:usdataset · ★ 0 · 2026-07-30 · HuggingFace