2026-05-27 周三 · Generative

独立报告页 · 在站内浏览(含往期切换)→
Generative生成式推荐 · 10 篇Personalization个性化推荐 · 10 篇AI SearchAI 搜索 · 10 篇Agentic智能体搜索 · 10 篇Infra系统与索引 · 6 篇

今日场景社区搜索 (UGC 短文本搜索): 用户在社区平台搜索帖子、问答、评论等 UGC 内容。核心指标是搜索相关性 (nDCG) 和点击率 (CTR)。关注:语义匹配、query 理解、短文本召回、排序模型、LLM 在搜索中的应用。 — 评分 57 篇,入选 10 篇,分数 3.55 – 4.45

本期目录 · 10 篇
  1. 01From Item-Only to Query-Item: Query-Conditioned Generative Search with QGS in Quark
  2. 02Memento: Personalized RAG-Style Long-Retention Data Scaling for META Ads Recommendation
  3. 03Equip Pre-ranking with Target Attention by Residual Quantization (TARQ)
  4. 04How Reliable Are Semantic-ID Tokenizer Comparisons in Generative Recommendation?
  5. 05DeGRe: Dense-supervised Generative Reranking for Recommendation
  6. 06BEAR: Towards Beam-Search-Aware Optimization for Recommendation with Large Language Models
  7. 07SIREN: Unified Multi-Granularity Semantic Interaction for Multi-Modal Lifelong User Interest Modeling
  8. 08RecGOAT: Graph Optimal Adaptive Transport for LLM-Enhanced Multimodal Recommendation with Dual Semantic Alignment
  9. 09Self-Balancing Gradient Allocation for Heterogeneity-Aware Feature Generation in CTR Prediction (HeteGenCTR)
  10. 10Channel-wise Vector Quantization (CVQ)
LEAD STORY · 今日必读 · Quark / Alibaba

From Item-Only to Query-Item: Query-Conditioned Generative Search with QGS in Quark

Quark 团队针对搜索场景下生成式序列模型存在的 query 切换语义断裂问题,提出 Query-Conditioned Generative Search (QGS)。把交互历史编码为 (query, item) 对 token,训练目标从有噪声的边际概率 P(item_{t+1}|context_{<=t}) 改为干净的条件概率 P(item_{t+1}|context_{<=t}, query_{t+1}),直接消除 query 边界引入的话题漂移。为处理长历史还设计了 query-aware 注意力近似。线上 A/B 在 Quark 搜索取得 CTR 显著提升。

相关 5新颖 5实用 4证据 4时效 4
4.45
综合分 / 5
KEY INSIGHT · 对业务意味着什么生成式推荐范式直接搬到搜索排序时最大的坑是 query 切换会让 next-item 预测目标混杂多个意图。QGS 用 (query, item) pair token + query-conditioned next-item loss 把多 intent 的边际目标改写成单 intent 的条件目标,这种最小侵入的输入侧改造对社区搜索(query 高度 burst 切换)尤其值钱。从 HSTU/TIGER 想迁移到搜索的团队可以直接复用这套 query 边界建模思路。
Yanglong Song, Zihao Yang, Shuo Meng, Rujun Guo, Jin Zhang, Bin Wang, Shaoyu Liu, Xiaozhao... · 2026-05-26 · arXiv
独立页面阅读 ↗

今日其余入选

9 篇 · 按综合排名
02 4.40

Memento: Personalized RAG-Style Long-Retention Data Scaling for META Ads Recommendation

Meta📖 有深读 · 8 分钟

Meta Ads 团队针对长历史建模面临的 attention 稀释、系统效率、灾难性遗忘问题,提出 Memento:把用户历史当作文档语料、ad 请求当 query,用 Maximal Marginal Relevance (MMR) 检索兼顾相似度和多样性。分两条线落地:Representation Memento 检索历史 embedding 做特征增强,Data Memento 检索历史训练样本做多遍训练。配合 temporal chunking、INT8 量化、异步服务,相比 LastN 等线性扩展方案达到 5–10× 资源效率,端到端延迟 sub-10ms,多个广告 surface 上拿到 0.25–0.3% Normalized Entropy 提升。

INSIGHT把 RAG 思路反向用到推荐系统的长行为序列建模,是 LastN/SIM 之外一条新的可扩展路线。MMR 检索同时压住相似度和多样性,避免了 SIM 这类 attention-pooling 在序列变长后被高频行为淹没;INT8 + 异步服务把 RAG 这种本来重 IO 的方案压进 10ms 预算内。这套基础设施对社区搜索的长用户历史召回有直接借鉴价值。

Xiaoyu Chen, Ruichen Wang, Jieming Di, Suofei Feng, Nafis Abrar, et al.
arXiv·2026-05-26·Relevance 4 · Novelty 5 · Practical 5 · Evidence 4 · Timely 4
独立页面阅读 ↗
03 4.20

Equip Pre-ranking with Target Attention by Residual Quantization (TARQ)

TaobaoAlibaba📖 有深读 · 8 分钟

淘宝粗排长期被效果 (Target Attention) 与效率 (双塔点积) 的矛盾卡住。TARQ 借鉴生成式模型的 Residual Quantization 思想,把 TA 的能力近似进粗排:用残差量化把 target/history 表征离散化成 codebook 索引,离线缓存 TA 计算结果,线上只做轻量索引查表+残差校正,从而首次把 Target Attention 量级的建模能力放进粗排延迟预算。Taobao 大规模线上 A/B 取得 SOTA 的精度-效率折中。

INSIGHT生成式表征 (codebook / semantic-id 思想) 不只能用在召回,也能用在粗排:把『参数化 attention 计算』压缩成『离散索引查表』,让粗排逼近精排的建模能力。社区搜索粗排同样卡在这条曲线上,TARQ 这种 RQ-as-attention-cache 的工程化思路具备直接借鉴价值。

Yutong Li, Yu Zhu, Yichen Qiao, Ziyu Guan, Lv Shao, Tong Liu, Bo Zheng
arXiv·2026-05-26·Relevance 4 · Novelty 4 · Practical 5 · Evidence 4 · Timely 4
独立页面阅读 ↗
04 4.15

How Reliable Are Semantic-ID Tokenizer Comparisons in Generative Recommendation?

University of Otago📖 有深读 · 16 分钟

这篇方法学论文指出当前 SID-based 生成式推荐评测有系统性偏差:tokenizer 把 item 压成离散码序列时,语义相近但协同信号不同的 item 会被分到同一 SID 序列,造成『SID 命中』不等于『item 命中』。作者在 4 个数据集 + 5 个代表性 tokenizer 上测得 collision 命中的 item 占比高达 30.5%,意味着 top-K 指标实际衡量的是 collision group 命中,不是真实 item 命中。提出基于 collision group 的修正评测协议,重排了多个 tokenizer 的相对优劣。

INSIGHT做 TIGER/HSTU/OneRec 这类 SID 生成式推荐的团队都该先检查自家 tokenizer 的 collision 率。30.5% 这个数字意味着论文里看到的 SID 提升可能很大一部分是 collision 红利,不是真实 item 命中提升。任何 SID 设计(RQ-VAE、KMeans、Hierarchical Clustering)都要把 collision 率作为一级指标盯,并采用 collision-aware 的离线评测;否则线上 metric 跟离线 metric 会持续不一致。

Qian Zhang, Lech Szymanski, Haibo Zhang, Jeremiah D. Deng
arXiv·2026-05-26·Relevance 4 · Novelty 5 · Practical 4 · Evidence 4 · Timely 4
独立页面阅读 ↗
05 4.00

DeGRe: Dense-supervised Generative Reranking for Recommendation

Zhejiang University

针对生成式重排两大顽疾——启发式 label 偏差(简单地把点击 item 拉到列表顶部,忽略列表内因果依赖)和 sparse list-level reward 带来的 credit assignment 模糊,提出 DeGRe (Dense-supervised Generative Reranking)。核心是用 dense 奖励替代稀疏 list-level reward:每一步生成都有显式的局部反馈信号引导,去掉对 heuristic label 的依赖。多个公开数据集上 NDCG@10 比 list-wise 生成式 baseline 提升明显,且训练更稳定。

INSIGHT生成式重排 (autoregressive rerank) 是直接落地生成式推荐范式最自然的入口,但 list-level reward 太稀疏一直是瓶颈。DeGRe 的解法是把 list 级别 reward 拆成 step-level dense supervision,本质上是对 RLHF 里 reward shaping 思路的 sequence-level 化。社区搜索 rerank 阶段如果想引入 LLM-style 的列表生成,可以直接借这套 dense supervision 设计避开 RL 高方差。

Chaotian Song, Jingyao Zhang, Chenghao Chen, Zisen Sang, Dehai Zhao, Guodong Cao, Boxi Wu, Deng Cai,...
arXiv·2026-05-26·Relevance 4 · Novelty 4 · Practical 4 · Evidence 4 · Timely 4
06 3.90

BEAR: Towards Beam-Search-Aware Optimization for Recommendation with Large Language Models

Zhejiang University

LLM4Rec 方法常用 SFT 训练 + beam search 推理,但 SFT 只优化『正样本的整体概率』,不能保证 beam search 实际把它捞出来——beam 贪心剪枝会在 prefix 概率不够大时提前丢掉好答案。BEAR (Beam-SEarch-Aware Regularization) 提出新的 fine-tuning 目标,在训练时显式建模 beam search 行为:不直接对每条样本模拟 beam search(太贵),而是用一个 beam-prefix 概率正则项,让正样本的所有 prefix 概率都保持在 beam top-B 内。多个公开 benchmark 上 Recall@K 显著提升。

INSIGHTLLM4Rec 一直被诟病 SFT 训练目标和 beam search 推理目标不一致,BEAR 给出了一个低成本的中间方案——不上 RL、不蒙特卡洛、只在 SFT loss 上加 prefix-aware regularization。对落地 LLM-as-recommender 的团队,这是一个『不改训练 pipeline、只换 loss』的优化点,工程成本极低、收益直接对应线上 beam search 召回率。

Weiqin Yang, Bohao Wang, Zhenxiang Xu, Jiawei Chen, Shengjia Zhang, Jingbang Chen, Canghong Jin, Can...
arXiv·2026-05-26·Relevance 4 · Novelty 4 · Practical 4 · Evidence 4 · Timely 3
07 3.85

SIREN: Unified Multi-Granularity Semantic Interaction for Multi-Modal Lifelong User Interest Modeling

Tencent

工业级推荐里 lifelong 行为序列 + 多模态内容融合一直被『多模态空间和协同空间错位』困住——大家通常分开建模再 late fusion。SIREN 提出统一的多粒度语义交互框架:在 General Search Unit 阶段提供两种检索策略——多模态相似度软检索(追求效果)和 Semantic ID 硬检索(追求工业服务效率);后续 Exact Search Unit 上做多粒度(item-level / sequence-level)语义交互。在 Tencent 业务场景拿到 CTR 显著提升。

INSIGHTSIREN 把 SemID 当作 lifelong 序列检索的硬索引而不是生成目标,这是 SemID 在工业部署中的一个被低估的用法——把 SemID 当 ANN 索引键、相当于免费的『语义聚类码』,比 ANN over dense embedding 服务成本低一个数量级。社区搜索做长用户行为召回时,SemID 硬检索 + dense 软检索的双通道是一个非常实用的折中。

Yaqian Zhang, Ruyi Yu, Tianyi Li, Bohan Liu, Maoquan Ye, Ke Wang, Junwei Pan, et al.
arXiv·2026-05-26·Relevance 4 · Novelty 4 · Practical 4 · Evidence 4 · Timely 3
08 3.75

RecGOAT: Graph Optimal Adaptive Transport for LLM-Enhanced Multimodal Recommendation with Dual Semantic Alignment

Kuaishou

快手团队针对 LLM 表征和 ID-based 协同信号之间的语义异质性问题——naive 注入 LLM 特征反而降低推荐效果——提出 RecGOAT,基于 GNN + 最优传输的双粒度对齐框架。多模态注意力图捕获 item-item / user-item / user-user 关系,用 LLM 推断的用户偏好初始化用户表征;再用 instance-level cross-modal 对比 + distribution-level 最优传输对齐 LLM 模态表征和 ID 表征。公开数据集上效果稳定优于 LLM4Rec baseline。

INSIGHT把 LLM 表征直接拼到推荐 ID embedding 上效果常常变差,根因是两个空间的几何结构不同。RecGOAT 给出的是一个偏理论但落地友好的解:用 OT 显式做分布对齐,再用对比学习做实例对齐。对引入 LLM 表征到搜索 ranker 的团队,这套 dual alignment 范式可以避免『加了 LLM 特征反而掉点』这种常见坑。

Yuecheng Li, Hengwei Ju, Zeyu Song, Wei Yang, Chi Lu, Peng Jiang, Kun Gai
arXiv·2026-05-26·Relevance 4 · Novelty 4 · Practical 3 · Evidence 4 · Timely 3
09 3.65

Self-Balancing Gradient Allocation for Heterogeneity-Aware Feature Generation in CTR Prediction (HeteGenCTR)

Alibaba

用 discrete diffusion 做生成式 CTR 预训练能给所有特征域提供 dense reconstruction 信号,缓解 ID 稀疏带来的 representation collapse。但现有生成式 CTR 方法都把每个 field 同等加权,忽略了高基数 ID、稀疏 categorical、数值、行为序列各 field 重建难度的巨大差异——简单 field 主导梯度、最难也最有信息的 field 长期欠拟合。HeteGenCTR 引入 per-field 可学习难度参数,和去噪网络联合训练,统一驱动两个协调组件(动态梯度重加权 + 难度感知 mask 调度),公开 benchmark 上 AUC 稳定提升。

INSIGHT生成式预训练在 CTR 场上和在 NLP 场上不一样——NLP 是 token 之间同构、推荐场不同 field 的统计性质差几个量级。这篇把 'generative difficulty imbalance' 当一级问题暴露出来,并用 per-field 可学习难度做自平衡,是把 discrete diffusion 实际落到 CTR 上的关键工程细节。任何想做生成式 CTR 预训练的团队都该先检查自家 field 的 reconstruction loss 是否被某几个域支配。

Moyu Zhang, Yun Chen, Yujun Jin, Jinxin Hu, Yu Zhang, Xiaoyi Zeng
arXiv·2026-05-26·Relevance 4 · Novelty 4 · Practical 3 · Evidence 4 · Timely 3
10 3.55

Channel-wise Vector Quantization (CVQ)

Fudan

传统视觉 VQ 把图像按 patch 切 token,每个 patch 出一个离散 token。CVQ 反过来:对 feature map 的每个 channel 量化,把图像编码成『离散视觉细节维度序列』而不是『空间 patch 网格』。基于 CVQ 提出 Channel-wise Autoregressive (CAR) 模型,用『next-channel prediction』替代『next-patch prediction』:先勾画全局结构,再逐步精化细节,类似人类绘画过程。在 16K+ codebook 下做到 100% 码本利用率(不需要任何额外 trick),重建质量显著超过 patch-wise VQ。

INSIGHTCVQ 不只是图像生成的进展,更值得做生成式推荐的人关注:它给出了一个 '从粗到细的属性维度自回归' 范式,对应到 item 表征就是『先大类目,再细属性,再具体 ID』这种 hierarchical SID 的天然形式。100% 码本利用率这个指标对当前 RQ-VAE / KMeans tokenizer 也是个标杆——大家训出来的 SID 码本通常只用了 20–40%,浪费严重。可以借 CVQ 思路重新设计推荐场的 hierarchical tokenizer。

Wei Song, Tianhang Wang, Yitong Chen, Tong Zhang, Zuxuan Wu
HuggingFace·2026-05-24·Relevance 3 · Novelty 5 · Practical 3 · Evidence 4 · Timely 3

其他赛道今日

点击切换
Personalization
10
个性化推荐 · 篇入选
AI Search
10
AI 搜索 · 篇入选
Agentic
10
智能体搜索 · 篇入选
Infra
6
系统与索引 · 篇入选

开源雷达

GitHub / HuggingFace 热门 · 8 个项目
supermatrix: 和飞书深度绑定的一个多agent协作平台,底层可接入codex cli 、claude code 、kimi等。自带记忆管理,跨session 通讯机制和飞书深度绑定的一个多agent协作平台,底层可接入codex cli 、claude code 、kimi等。自带记忆管理,跨session 通讯机制TypeScript · ★ 5 · 2026-05-25 · GitHubstream-builder: Tumblr's custom feed building, mixing, and ranking framework.Tumblr's custom feed building, mixing, and ranking framework.PHP · ★ 142 · 2023-06-14 · GitHubpopulora: Implementation and explorations into PopuLoRA, Co-Evolving LLM Populations for Reasoning Self-PlayImplementation and explorations into PopuLoRA, Co-Evolving LLM Populations for Reasoning Self-PlayPython · ★ 12 · 2026-05-22 · GitHubdeepseek-ai/Janus-Pro-7Btags: gradio, region:usspace · ★ 0 · 2025-01-27 · HuggingFaceQwen/Qwen3-TTStags: gradio, region:usspace · ★ 0 · 2026-01-21 · HuggingFaceTencentARC/InstantMeshtags: gradio, region:usspace · ★ 0 · 2024-04-08 · HuggingFacezai-org/CogVideoX-5B-Spacetags: gradio, cogvideox, video-generation, thudm, region:usspace · ★ 0 · 2024-08-23 · HuggingFaceQwen/Qwen-Imagetags: gradio, region:usspace · ★ 0 · 2025-08-03 · HuggingFace