2026-03-10 周二 · Generative

独立报告页 · 在站内浏览(含往期切换)→
Generative生成式推荐 · 7 篇Personalization个性化推荐 · 8 篇AI SearchAI 搜索 · 10 篇Agentic智能体搜索 · 10 篇Infra系统与索引 · 10 篇

今日场景社区搜索 (UGC 短文本搜索): 用户在社区平台搜索帖子、问答、评论等 UGC 内容。核心指标是搜索相关性 (nDCG) 和点击率 (CTR)。关注:语义匹配、query 理解、短文本召回、排序模型、LLM 在搜索中的应用。 — 评分 499 篇,入选 7 篇,分数 3.00 – 4.10

本期目录 · 7 篇
  1. 01RelayGR: Scaling Long-Sequence Generative Recommendation via Cross-Stage Relay-Race Inference
  2. 02Efficient Vector Search in the Wild: One Model for Multi-K Queries
  3. 03AgentSelect: Benchmark for Narrative Query-to-Agent Recommendation
  4. 04MoEless: Efficient MoE LLM Serving via Serverless Computing
  5. 05Diffusion Language Models Are Natively Length-Aware
  6. 06NOBLE: Accelerating Transformers with Nonlinear Low-Rank Branches
  7. 07DCNLLMs: Deep CTR Prediction with LLMs for Enhanced LTL Freight Matching
LEAD STORY · 今日必读 · Huawei

RelayGR: Scaling Long-Sequence Generative Recommendation via Cross-Stage Relay-Race Inference

提出跨阶段接力式推理架构 RelayGR,将生成式推荐中用户行为编码与候选评分解耦,实现长序列高效推理。

相关 4新颖 4实用 4证据 4时效 2
4.10
综合分 / 5
偏好调整 4.10
KEY INSIGHT · 对业务意味着什么生成式推荐模型中大部分 token 编码的是与候选 item 无关的用户行为信息,可预计算并缓存,从而在固定延迟下支持 1.5 倍更长的输入序列。这为工业级 GR 系统的序列扩展提供了实用路径。业务关联 对社区搜索而言,用户行为序列(浏览、点击、搜索历史)是个性化排序的关键输入。RelayGR 的序列预计算 + 缓存策略可直接用于提升长行为序列建模的推理效率。证据 在华为昇腾 NPU 上实测:固定延迟约束下支持 1.5x 更长输入序列,吞吐量提升 3.6x。采用 sequence-aware request filtering + affinity-aware routing + memory-aware DRAM 管理三项系统优化。
Jiarui Wang, Huichao Chai, Yuanhang Zhang et al. (41 authors) · 2026-01-03 · arXiv

今日其余入选

6 篇 · 按综合排名
02 3.90

Efficient Vector Search in the Wild: One Model for Multi-K Queries

Alibaba

提出 OMEGA 方法,用单一基础模型高效处理不同 K 值的向量检索查询,免去为每个 K 值单独训练模型的开销。

INSIGHT传统 learned top-K search 需为不同 K 值训练专用模型,OMEGA 只需训练 K=1 的基础模型再动态精炼。这对大规模 embedding 检索场景意义重大——一个模型即可服务多种召回需求。

业务关联社区搜索中 embedding-based 召回是核心组件(语义匹配、短文本召回),不同场景需要不同的 top-K(粗排 K=1000 vs 精排 K=100)。OMEGA 可显著简化向量检索的模型管理。

证据相比 SOTA learned search 方法:平均延迟降低 6-33%,预处理时间仅需 16-30%,最优延迟的 1.01-1.28x。在 Database + IR + ML 交叉领域发表。

Yifan Peng, Jiafei Fan, Xingda Wei, Sijie Shen, Rong Chen, Jianning Wang, Xiaojian Luo, Wenyuan Yu, ...
arXiv·2026-03-06·Relevance 3 · Novelty 4 · Practical 4 · Evidence 4 · Timely 5
03 3.60

AgentSelect: Benchmark for Narrative Query-to-Agent Recommendation

RutgersUTS

将 LLM Agent 选择问题重新建模为推荐任务,构建包含 11 万查询和 10 万 Agent 的大规模 Benchmark。

INSIGHT当推荐候选从传统 item 变为 LLM Agent 时,经典 CF/GNN 方法在长尾分布下表现脆弱,需要转向基于内容理解的 capability matching。这预示了生成式推荐在 Agent 生态中的新应用方向。

业务关联随着社区搜索引入 AI Agent 辅助(如智能问答、内容生成),Agent 推荐将成为新需求。该 benchmark 的 narrative query → agent 匹配范式可迁移到搜索场景。

证据构建 111,179 查询 + 107,721 Agent + 251,103 交互记录的大规模数据集(聚合 40+ 来源)。在 MuleRun 公开市场上验证可迁移性,合成交互数据在可控反事实编辑下表现稳健。

Yunxiao Shi, Wujiang Xu, Tingwei Chen, Haoning Shang, Ling Yang, Yunfeng Wan, Zhuo Cao, Xing Zi, Dim...
arXiv·2026-03-04·Relevance 3 · Novelty 4 · Practical 3 · Evidence 3 · Timely 5
04 3.60

MoEless: Efficient MoE LLM Serving via Serverless Computing

提出 MoEless 无服务器框架,通过层感知负载预测和动态专家缩放解决 MoE LLM 推理中的专家负载不均衡问题。

INSIGHTMoE 架构是 LLM-based 推荐系统的主流选择(如 TokenMixer-Large 等),但专家负载不均导致 GPU 利用率低。MoEless 的 serverless 动态缩放策略可直接应用于推荐模型的在线推理。

业务关联社区搜索的 LLM-based 排序/理解模型(如基于 MoE 的 query 理解、内容生成模型)面临推理成本高的问题。MoEless 的 84% 成本降低对降低线上 serving 成本有直接参考价值。

证据在 8-GPU 测试环境实测:推理延迟降低 43%,推理成本降低 84%。基于 Megatron-LM 原型实现,使用开源 MoE 模型和真实工作负载验证。

Hanfei Yu, Bei Ouyang, Shwai He, Ang Li, Hao Wang
arXiv·2026-03-06·Relevance 2 · Novelty 4 · Practical 4 · Evidence 4 · Timely 5
05 3.30

Diffusion Language Models Are Natively Length-Aware

Bocconi

发现扩散语言模型的 prompt 表征中天然包含输出长度信息,据此动态调整 context window 大幅减少计算量。

INSIGHT扩散语言模型(Diffusion LM)作为自回归 LLM 的替代范式,其固有的长度感知能力可实现自适应计算。对生成式推荐而言,扩散模型的 non-autoregressive 生成方式可能在长序列 item 生成场景中更高效。

业务关联社区搜索中 query 补全、内容摘要生成等任务的输出长度差异大。扩散 LM 的自适应长度机制可减少不必要的计算开销,提升生成任务的效率。

证据在 GSM8K(推理)、HumanEval(代码)、IfEval(指令跟随)、LongFormQA(问答)四个 benchmark 上 FLOPs 显著降低,性能无统计显著下降,其中 2/4 任务性能反而提升。

Vittorio Rossi, Giacomo Ciro, Davide Beltrame, Luca Gandolfi, Paul Rottger, Dirk Hovy
arXiv·2026-03-06·Relevance 2 · Novelty 4 · Practical 3 · Evidence 4 · Timely 5
06 3.25

NOBLE: Accelerating Transformers with Nonlinear Low-Rank Branches

Canva

提出 NOBLE 架构增强方法,在 Transformer 线性层中永久添加非线性低秩分支,仅增 4% 参数即加速训练 1.47 倍。

INSIGHT与 LoRA 等后期微调不同,NOBLE 在预训练阶段就引入低秩分支作为永久架构组件。对大规模推荐模型的预训练(如 HSTU、MixFormer 等),NOBLE 的训练加速效果可直接复用以缩短迭代周期。

业务关联社区搜索的排序模型(BERT/Transformer-based)训练成本高。NOBLE 的 32% 训练步数减少 + 1.22x wallclock 加速对加快模型迭代有实际价值。

证据跨架构验证:250M 和 1.5B 参数 LM、BERT、VQGAN、Vision Transformer 均一致加速。额外 4% 参数 + 7% step time 换取最高 1.47x 训练速度提升和 1.22x 净 wallclock 加速。

Ethan Smith
arXiv·2026-03-06·Relevance 2 · Novelty 4 · Practical 3 · Evidence 4 · Timely 5
07 3.00

DCNLLMs: Deep CTR Prediction with LLMs for Enhanced LTL Freight Matching

将 DCN 与 LLM 结合用于物流货运匹配场景的 CTR 预估,探索 LLM 增强传统推荐模型的实践路径。

INSIGHTLLM 的知识库和语义理解能力可增强传统 DCN 在垂直场景的 CTR 预估。LLM-as-feature-enhancer 的范式对需要丰富语义理解的 UGC 搜索排序同样适用。

业务关联社区搜索中帖子/问答的语义理解是排序关键。DCNLLMs 的 LLM 增强 CTR 方案可参考:用 LLM 提取 UGC 内容的深层语义特征,增强排序模型的语义理解能力。

证据发表于 ICIC 2025 会议。将 LLM 集成到 DCNv3 架构中,在 LTL 货运匹配数据集上验证了 CTR 预估的显著提升(具体指标未公开)。

Unknown
Semantic Scholar·2025-12-01·Relevance 3 · Novelty 3 · Practical 3 · Evidence 2 · Timely 2

其他赛道今日

点击切换
Personalization
8
个性化推荐 · 篇入选
AI Search
10
AI 搜索 · 篇入选
Agentic
10
智能体搜索 · 篇入选
Infra
10
系统与索引 · 篇入选