Paper Daily · 生成式推荐 Generative

PailitaoMMSearch2.0 Technical Report: Scaling Generative Retrieval to Unified End-to-End Multimodal Search

Thu, 29 Oct 2026 08:00:00 +0800

淘宝拍立淘里，用户拍一件衬衫再说「找条配它的短裤」，要的是搭配而不是同款。传统做法先分意图、再分发到不同召回通道，任何一步分错后面全错。阿里这篇技术报告让一个 2B 视觉语言模型直接读原图和原话，生成商品的 Semantic ID，不需要意图标签。优秀率指前 10 个结果里被评审模型判满分的比例。「找搭配」请求的这一指标从多路召回链路的 44.2% 提到 74.3%，线上 GMV 提升 8.94%，已全量上线。

生成式推荐 · 评分 4.50 · 深度解读 14 分钟 · Xiaohan Ye, Zihan Gong, Jingqian Zhao, Lianyu Du, Yunmeng Shu, Xu Chen, Zesheng Zhou, Renchun You,… · 原文

KL-MOPD: Discrepancy-Aware Multi-Objective On-Policy Distillation for Generative Recommendation

Thu, 29 Oct 2026 08:00:00 +0800

把点击老师和价值老师一起蒸馏进生成式推荐时，每个 token 平分权重并不公平：在 TencentGR 上，学生生成第 1 个 token 时离价值老师的 KL 是离点击老师的 3.13 倍，而且难学的老师在后两个 token 换成了点击老师。浙大和阿里的 KL-MOPD 在训练前算一次学生离两个老师的距离，每个 token 上离得更远的老师拿更大的权重，训练时没有额外开销。线上 A/B 中，广告收入提升 1.63%，说明点击和价值两个目标一起涨了。

生成式推荐 · 评分 4.20 · 深度解读 12 分钟 · Weiqin Yang, Yandong Wang, Yuan Gao, Hao Deng, Jinxin Hu, Jing Cao, Jiawei Chen · 原文

Latent Residual Reasoning for Ranking in Generative Recommendation

Thu, 29 Oct 2026 08:00:00 +0800

生成式排序模型一次前向就给所有候选打完分，没有机会再细看、修正。美团和中科大的 Refiner 在这之后再多算几步：给每个候选接一个推理 token，每一步只预测加到原分数上的修正量，原模型完全冻结，只训练 LoRA 和新输出层。在 Steam 数据集上，它把美团的生成式排序模型 MTGR 的 AUC 提到 0.7872；接在线上模型之后做 A/B，点击率提升 0.75%。因为只学残差，多算的几步是在原有分数上加修正量，而不是从头重新打分。

生成式推荐 · 评分 4.20 · 深度解读 13 分钟 · Haihan Shi, Ruidong Han, Wenjie Wang, Shangyu Chen, Sunhao Dai, Yongqi Li, Yangyang Li, Fei Jiang,… · 原文

REGER: Modeling inter-item Relations with Semantic IDs for Generative Recommendation

Thu, 29 Oct 2026 08:00:00 +0800

交叉熵只告诉生成式推荐正确 token 是哪个，其他候选谁更好没有任何信号。电子科大的 REGER 把传统序列模型对全部物品的打分，在正确答案的每个前缀上按下一个 token 所属的分叉把物品概率加总再归一化，得到每一步的分叉偏好，让生成模型去对齐。单独加到 TIGER 上，Beauty 数据集的 Recall@10 从 0.0673 提到 0.0794，推理时间不变，说明它是一个几乎免费的训练改动。

生成式推荐 · 评分 4.10 · 深度解读 14 分钟 · Yuxi Huang, Silin Zhou, Chenhao Wang, Zihan Li, Gangming Guo, Pei Ke, Shen Gao, Shuo Shang · 原文

LESSRec: Level-Specific History Modeling for Semantic ID-Based Recommendation

Thu, 29 Oct 2026 08:00:00 +0800

SID 推荐在预测某一层 token 时，会同时看历史里所有层的 token。LESSRec 的推理分析发现，和目标同一层的历史 token 信息量更大，其他层反而会干扰。所以它把历史按层分开编码，预测第几层就只看那一层的历史，再补一条按时间排列、每个历史物品只用一个整体语义表示的序列；解码时对这两条序列各做一次交叉注意力，再把结果合并。LESSRec+ 进一步给每层用独立的小编码器，总参数量不变、编码计算更少，在三个公开数据集和三种 tokenizer 上都有效。

生成式推荐 · 评分 4.10 · Shangxin Yang, Zongwei Wang, Jing Long, Junliang Yu, Min Gao · 原文

JevRec: Linguistic Encoding with Jev-like Decision Modeling for LLM-based Generative Recommendation

Thu, 29 Oct 2026 08:00:00 +0800

多数生成式推荐给所有物品同样长度的 SID，热门物品反复为细粒度编码付出成本，缩短编码又会压缩长尾物品的语义。JevRec 借鉴自然语言里常用词更短的规律：先用残差量化给每个物品编出 4 级编码，每一级各有一张所有物品共用的向量表（论文叫码本），每级记下离剩余误差最近一项的序号，越往后越细。它按训练集交互频率把物品排序分组，越热门的组截掉越多末尾的细粒度编码，长尾物品保留完整描述；同一组里截短后前缀相同的物品，末尾再各补一个不同的编号，保证每个物品唯一。它还用一个单独的输出头先预测长度，再按长度生成内容，减少梯度冲突。在三个公开数据集上它全面领先，训练和推理时间都比 TIGER 短。

生成式推荐 · 评分 4.10 · 深度解读 13 分钟 · Qiyong Zhong, Jiajie Su, Ming Yang, Li Zhang · 原文

Modeling Preference Dependencies with Directed Acyclic Graphs for Narrative-Driven Recommendation

Thu, 29 Oct 2026 08:00:00 +0800

用户用一段话描述需求时，偏好之间往往互相限定，比如要找适合带老人去、但离家不远的海边城市。现有方法多把它当成关键词组合。PDG-F 先让一个智能体把需求解析成一张有向无环图，每条边表示一个偏好对另一个偏好的限定。每条边被改写成一条搜索查询去开放网络召回候选，召回结果记在这条边指向的节点下。排序时，让大模型拿召回某个候选的网页证据，逐一对照这个节点和它上游每个偏好，从明确矛盾到几乎复述打 0 到 4 分；再顺着边往上游加总，离这个节点越远的偏好打折越多，最后把候选在各节点上的得分相加。在中英文三个领域上，它超过检索智能体和前沿大模型，主要因为候选池能召回的上限明显提高。

生成式推荐 · 评分 3.85 · Mingzhe Lu, Jian Qin, Ruize Qin, Jinhao Liu, Yunpeng Li, Hang Su · 原文

RPSD: Retrieval-Privileged On-Policy Self-Distillation with Optimal Transport

Thu, 29 Oct 2026 08:00:00 +0800

用 GRPO 后训练大模型推荐器时，一条回答的奖励平摊给所有 token，而且训练信号只来自单个用户。RPSD 的老师和学生是同一个模型，老师额外看到正确答案和相似用户后来看了什么，再给学生回答里的每个 token 算概率。老师减学生的对数概率差在回答内去均值、截断，答对时取原号、答错时取反号，再取指数，得到限制在 1 附近的正权重，乘到原来的优势值上。这样答对时老师更认可的 token 加强得更多，答错时老师也不认可的 token 罚得更重，奖励方向不变。老师掌握的额外信息来自行为轨迹相似的其他用户，这样训练信号不再只来自单个用户。多个真实数据集上达到最好效果。

生成式推荐 · 评分 3.75 · Dongyue Li, Zebang Cheng, Zhongyi Deng, Hongboxu, Yi Bin, Fei Ma · 原文

The Vocabulary Is Already Here: Adapting Pretrained Interpretable Features for Generative Recommendation

Thu, 29 Oct 2026 08:00:00 +0800

现有生成式推荐要专门训练 SID 词表，去拟合物品描述的语言模型表示。这篇论文发现，预训练好的稀疏自编码器已经给语言模型的特征配好了人能读懂的语义标注，特征编号本身就能当 SID 词表，不需要再学一套。他们的 API 框架把物品描述送进语言模型，取稀疏自编码器上被激活的特征编号组成物品编码，再训练一个适配器从用户历史里学偏好，同时还能用特征自带的语义标注，解释两个候选物品的得分为什么不同。

生成式推荐 · 评分 3.75 · Ziluowen Luo, Ruochen Liu, Jun Yin, Hao Yan, Zhengxuan Hu, Xinze Shi, Chaozhuo Li, Chengqi Zhang, S… · 原文

MAREval: A Multi-Agent Framework for Evaluating Natural Language Recommendation Explanations

Thu, 29 Oct 2026 08:00:00 +0800

推荐理由写得好不好，人工评估准但贵，单个大模型打分又容易受提示词影响、结果不稳定。MAREval 先让规划者给评估者、主持人和仲裁者写好每一轮的任务。评估者按相关性、措辞等标准打分并互相挑错，主持人把每轮分歧压成摘要供下一轮参考，仲裁者根据最后的摘要给分，整条流程独立跑多次再取平均。在公开基准和电商数据上，它和人工判断更一致，重复评估的波动明显更小；大规模人工标注检验中达到了上线质量线，线上 A/B 中实验组只展示通过 MAREval 的推荐理由，对照组不展示理由，参与度和收入指标显著提升。

生成式推荐 · 评分 3.65 · Reza Yousefi Maragheh, Jayesh Uddhav Kudase, Aysenur Inan, Ramin Giahi, Kai Zhao, Parth Parikh, Jia… · 原文

Octen-WebGR: Scaling Generative Retrieval to 200 Million Web Pages

Wed, 28 Oct 2026 08:00:00 +0800

生成式检索一直停在千万文档以内。Octen 团队的 Octen-WebGR（一个用生成式检索做网页导航搜索的模型）把它推到 2.01 亿个网页：每个网页编成两个 token，4B 模型读完查询直接生成，再查表得到 URL。在训练后一个月的真实导航流量上，它把目标网页排第一的比例是 59.6%，同样点击数据训练、再按点击重排的向量检索是 46.5%。把点击历史写进参数，模型就学会了网页本身的受欢迎程度，所以能从同一网站几个相似的页面里挑出用户要的那一页。对点击很少的冷门网页，向量检索仍然更好，两者是互补的。

生成式推荐 · 评分 4.40 · 深度解读 13 分钟 · Guangwei Xu, Wenkai Zhang, Yawen Liu, Dongxu Zhang, Xijie Xu, Kuan Zou · 原文

PinGER: Token-Efficient Generative Retrieval with Semantic IDs

Wed, 28 Oct 2026 08:00:00 +0800

生成式召回把每个物品编成多层 SID 逐层生成，代价是输入侧每个历史物品要占好几个 token。Pinterest 的 PinGER 在训练时给每个物品的 SID 后面再放一个稠密向量 token，并规定任何 token 读取别的物品时只能看它的稠密 token，不能看它的 SID。于是服务时可以丢掉历史里的全部 SID，每个物品只占 1 个 token，结果不变。它把输入压缩做成了训练时的结构约束。离线上它用 170 个 token 达到 TIGER 用 1,024 个 token 的召回率，在 Related Pins 上线后保存数提升 0.62%。

生成式推荐 · 评分 4.35 · 深度解读 16 分钟 · Xinyi Li, Sujan Reddy Ale, Yi-Ping Hsu, Zelun Wang, Yilin Chen, Hanyu Li, Hanlin Lu, Arkin Dharawat… · 原文

SLIDE: Search-to-List Item Distillation for Single-Rollout Generative Retrieval

Wed, 28 Oct 2026 08:00:00 +0800

生成式召回线上通常用束搜索出候选，各条束互不可见；想让模型一口气写出整张列表，最直接的贪心解码效果却差得多。淘宝的 SLIDE（一种把离线搜索结果蒸馏成列表的训练方法）把搜索挪到离线：教师对每个训练请求跑束搜索，把搜出的商品按得分拼成一条长序列，学生照着学，线上只贪心解码一遍。它把线上的搜索成本换成了离线的标注成本。教师用 7B 时，0.5B 学生的 HR@10 达到 0.4578，反超同尺寸模型束搜索的 0.4498。

生成式推荐 · 评分 4.30 · 深度解读 14 分钟 · Tianyu Zhan, Gui Ling, Ran Tao, Kunhai Lin, Tong Xiong, Wang Yang, Kaixuan Zhang, Zhihong Chen, Yul… · 原文

MuSID-KD: Multigranularity Knowledge Distillation for Generative Recommendation with Semantic IDs

Wed, 28 Oct 2026 08:00:00 +0800

把 SID 生成式推荐模型蒸馏成小模型时，通常只让学生对齐教师在最终推荐物品上的概率分布。华东师大的 MuSID-KD（一种按 SID 层级做多粒度蒸馏的方法）发现这样不够：只对齐物品分布的学生，在 SID 中间层给候选组排出的先后，平均有 53.8% 的比较和教师不一致。教师的知识不只在最后一层的物品概率里，也在每一层前缀的排序里。在三个 Amazon 数据集上，它的 NDCG@10 比基础蒸馏平均高 8.31%，线上推理结构完全不变。

生成式推荐 · 评分 4.10 · 深度解读 13 分钟 · Fengshi Zhang, Xiyan Ding, Shuxiao Xie, Wei Zhang · 原文

LoopGR: Parameter-Efficient Scaling for Generative Recommendation via Recurrent Depth

Wed, 28 Oct 2026 08:00:00 +0800

生成式推荐想变强通常就是加层，也就是加参数和显存。腾讯的 LoopGR（一种循环复用解码器的生成式推荐结构）让同一个解码器反复跑好几遍。每两遍之间，把解码器开头 BOS 位置的隐状态（概括模型此刻对目标的判断）加到历史的每个位置上，再用一个很小的 GRU 沿物品顺序重写历史表示。解码器反复修正预测，历史跟着预测一起变。同等计算量下，它用一半左右的参数就胜过编码器—解码器结构；工业数据上 Recall@10 为 0.6458，高于线上模型 BARGE 的 0.6277。

生成式推荐 · 评分 4.00 · 深度解读 13 分钟 · Huizhe Zhang, Yudong Li, Liang Chen, Chengxiang Zhuo, Zang Li · 原文

DPE-Rec: Diversity-Preserving and Efficient Diffusion Language Model Recommendation for Bundle Construction

Wed, 28 Oct 2026 08:00:00 +0800

补全商品套装或歌单是无序地生成一组物品，扩散语言模型的双向注意力更合适，每步还能揭开多个 token。每个物品编成多层 SID，第一位决定大类；但按置信度揭开时，模型总把这一位拖到最后，生成的物品彼此很像；一步揭开太多又会拼出不存在的 SID。DPE-Rec（一种面向套装生成的扩散推荐框架）在强化学习采样时先生成大类那一位并调高这一位的采样温度，去噪训练也不再用随机遮盖，而是只用每步揭开一个 token 的慢速解码真正经过的那些中间状态。先决定往哪个方向分叉，再补细节。按 F1 等集合匹配指标，它比现有生成式推荐方法平均高 63%。

生成式推荐 · 评分 3.80 · Pingchuan Ma, Bohan Jiang, Chengshuai Zhao, Dawei Li, Zhen Tan, Huan Liu · 原文

ReflectRec: Cycle-Consistency Preference Verification for LLM-based Recommendation

Wed, 28 Oct 2026 08:00:00 +0800

思维链式的大模型推荐器会先写一段描述用户偏好的笔记再排序，但这段笔记从不被检验，排序时也不参考行为相似的用户。ReflectRec（一种对偏好笔记做往返校验的大模型推荐方法）让模型只根据笔记去猜用户看过哪些电影，以猜中真实历史的比例作为笔记的可信度分数；分数低就重写，并从几次重写里挑分数最高的一版，同时把相似用户之后看过的电影作为协同提示塞进提示词。偏好描述能不能还原出历史，就是它可不可信的检验。在 MovieLens-1M 上，Hit@10 比基线 CoT4Rec 高 4.46 个百分点。

生成式推荐 · 评分 3.65 · Dae Kyoo Kim, Heejung Cho, Sungmoo Hong, Eunil Park · 原文

Transporting Quantiles to Codebook: Scalable Vector Quantization without Codebook Collapse

Wed, 28 Oct 2026 08:00:00 +0800

向量量化是图像、音频生成乃至推荐 SID 的基础组件，但常用的 VQ-VAE 码本经常塌缩，大部分码字从来用不上。FlowVQ（一种基于流匹配的向量量化方法）先在一个固定的简单先验分布上，把空间切成概率相等的若干小块，每块一个初始码字；再用一个和 VQ-VAE 一起训练的轻量流模型，把先验空间一一映射到数据的隐空间。映射保持概率质量，所以每一块搬过去后仍装着同样比例的数据，码字取搬运后各块的中心。码字用得均匀成了映射本身的性质。在材料结构重建上，匹配率达到 90.81%，码本全部用上。

生成式推荐 · 评分 3.45 · Yuwei Zeng, Zekun Shi · 原文

PinRec: Unified Generative Retrieval Model for Pinterest Recommender Systems

Tue, 27 Oct 2026 08:00:00 +0800

推荐系统里首页、搜索和相关推荐通常各有各的召回模型，因为三处要的东西不一样：首页看用户会不会保存，搜索看会不会点出去购买，相关推荐看会不会继续往下逛。Pinterest 这篇 KDD 2026 论文把三处换成同一个生成式召回模型 PinRec，先在全站行为上预训练，再用各场景日志微调，生成时还告诉模型这次要找哪种行为的物品。真正起作用的是按目标行为生成，统一模型本身收益小得多。去掉这个条件，三个场景的离线召回掉 7.5% 到 12.6%；线上接进搜索作为一路召回，保存数涨了 3.88%。

生成式推荐 · 评分 4.10 · 深度解读 13 分钟 · Edoardo Botta, Jaewon Yang, Yi-Ping Hsu, Laksh Bhasin, Yilin Chen · 原文

Unifying Behavior Modeling and Semantic Generation for Generative Recommendation

Tue, 27 Oct 2026 08:00:00 +0800

用 Semantic ID 逐位生成下一个物品编号的生成式推荐，有一个系统性的偏向：华南理工大学这篇 KDD 2026 论文发现，用户历史里和目标物品同类的东西越少，它就越不如只看行为的老式序列推荐模型，最差的一组里 TIGER 的 NDCG@10 比 SASRec 低 30%。原因是编码器学的是下一个物品是谁，解码器要生成的却是编号。OMG 在两者之间加一个两层小网络，每一步把上一步的状态和编码器的最终状态相加再过一遍网络。每一步同时预测下一个物品和编号首位，后者的权重逐步加大，所有中间状态再一起交给解码器。只加这一个部件，各项指标平均涨 14.5%，计算量只多 0.16%。

生成式推荐 · 评分 4.00 · 深度解读 14 分钟 · Binquan Wu, Xinbo Chen, Yicheng Luo, Yuhao Ke, Jingye Li · 原文

CoFiRec: Coarse-to-Fine Tokenization for Generative Recommendation

Tue, 27 Oct 2026 08:00:00 +0800

用户在网上挑东西，通常是先看大类再挑具体商品，但大多数生成式推荐在编 Semantic ID 时，把物品的类目、标题、描述和协同信号揉成一个向量再量化，这种由粗到细的结构就丢了。UIUC 和 Meta 的这篇论文提出 CoFiRec，按类目、文本内容、协同信号分层，各层单独编码，再由粗到细地生成。在多个公开数据集和不同骨干模型上，按 Recall 和 NDCG 计算，它比最强的传统和生成式基线平均高 7.27%。冷门物品上的提升达到 10.0%，高于热门物品上的 4.7%。

生成式推荐 · 评分 4.00 · 深度解读 11 分钟 · Tianxin Wei, Xuying Ning, Xuxing Chen, Ruizhong Qiu, Yupeng Hou · 原文

Separating Thinking from Spelling for Efficient Generative Recommendation

Tue, 27 Oct 2026 08:00:00 +0800

生成式推荐靠逐位写出物品的 Semantic ID 来召回，束搜索每走一步都要过一遍大模型，候选越多、编号越长，花得越多，这部分常常是主要开销。这篇论文提出 Deco，把读历史和写编号分开：大模型只读一遍历史，压成一个代表下一个物品的向量，整个束搜索交给一个带缓存的小解码器，编号和前缀树都不变。在电商、电影和音乐的七个数据集上，它的准确率与原模型相当或更好。在 50 毫秒的延迟预算下，吞吐量是原来的 3.2 到 8.6 倍。

生成式推荐 · 评分 3.90 · Danil Gusak, Anna Volodkevich, Ivan Oseledets, Evgeny Frolov · 原文

Knowledge Distillation across Item and Code Spaces for Parallel Generative Recommendation

Tue, 27 Oct 2026 08:00:00 +0800

用 Semantic ID 做生成式推荐时，训练只告诉模型下一个物品是哪一个，同一段历史下其他物品有多大可能，模型学不到。传统序列推荐模型能给出这种概率分布，但它给物品打分，生成模型却逐位预测编号，知识很难直接蒸馏过去。港科大等单位的这篇论文给并行生成模型设计了两种蒸馏：一种把学生的编号预测还原成全库物品分布再对齐老师，另一种把老师的物品概率摊到每个编号位上再对齐。平均来看，前者让 Recall@10 提升 15.39%，后者让 NDCG@10 提升 8.28%。

生成式推荐 · 评分 3.90 · 深度解读 11 分钟 · Yixuan Xu, Hailin Liu, Linxiang Peng, Can Yang · 原文

GUIDER: Generative User Interest Discovery via Explicit Reasoning with Large Language Models

Tue, 27 Oct 2026 08:00:00 +0800

生成式推荐常用的 Semantic ID 只是一串编号，模型生成了什么、为什么这么生成都很难看懂，也用不上大模型本身的推理能力。这篇论文提出 GUIDER，把推荐拆成两步：先让大模型用文字推理出用户接下来可能感兴趣的兴趣圈子。兴趣圈子是用文字描述的兴趣主题，只能从平台给定的一个固定集合里选，选好后再到这些主题下匹配具体物品。强化学习训练时，不在集合里的编造圈子会被扣分，过长的思考也会被扣分。在快手平台上的大规模线上 A/B 中，用户平均使用时长持续提升，也更容易跳出原有的兴趣范围。

生成式推荐 · 评分 3.75 · Jinke Wu, Yinghao Wu, Shuchang Liu, Yandong Bai, Qi Zhu · 原文

SAGE: Sequence-level Adaptive Gradient Evolution for Generative Recommendation

Tue, 27 Oct 2026 08:00:00 +0800

生成式推荐常先做监督训练，再用强化学习按用户反馈对齐整份推荐列表。为了训练稳定，每次更新时模型生成这份列表的概率只允许变化一定比例，现有方法逐个样本定一个固定比例，冷门物品难得的正反馈因此被压住，单调的负样本列表也罚得不够。小红书这篇论文提出 SAGE，只换优化器：列表得到正反馈时调高概率上调的上限；列表的单一程度按其中物品类目分布的熵衡量，负反馈列表的熵比近期平均水平低得越多，允许把它的概率压得越多。在 Amazon 数据上，前几名的准确率不变，冷启动物品的离线召回提升约 90% 到 101%，多样性提高约 11%。

生成式推荐 · 评分 3.75 · Yu Xie, Xing Kai Ren, Ying Qi, Ping Yang, Yao Hu · 原文

TGR-EvoDAG: A DAG-based Multi-Agent Code Evolution Framework for Generative Recommendation on Tencent

Tue, 27 Oct 2026 08:00:00 +0800

让大模型智能体自动改代码、搜索更好的推荐算法，放到生成式推荐上有两个难处。编码、预训练、对齐三段流水线的重训代价差别很大，智能体却一视同仁地花预算；上游的好改动在下游适配之前常常让指标先变差，结果被过早丢掉。腾讯这篇论文提出 TGR-EvoDAG，用一张有向无环图同时保留多条改进分支：每个节点是一版改过的代码，记下这次改动碰了哪几段流水线、重训要多少 GPU 时长。上游改动让指标先降时不丢掉，等下游改动适配后再把两条分支合起来，预算则按预期收益和重训成本分配。在腾讯的商业媒体平台上，自动改出的模型让线上点击率显著提高 0.40%。

生成式推荐 · 评分 3.65 · Junlin He, Junzhang Zhu, Yudong Li, Yihong Tang, Xuefeng Jiang, Wei Ma, Chengxiang Zhuo, Zang Li · 原文

From Item Scores to Semantic Tokens: Test-Time Collaborative Adaptation for Generative Recommendation

Mon, 26 Oct 2026 08:00:00 +0800

用 Semantic ID 做生成式推荐时，模型要逐个 token 生成商品编码，束搜索每一步只留下分数最高的几条前缀，一条前缀被剪掉，它下面的所有商品就再也生成不出来。用户刚冒出新兴趣时，这个问题最明显。这篇论文提出 TCBSA（测试时协同束搜索调整），在每次剪枝之前，把打分模型给出的商品分数折算成对编码前缀的加分：打分模型先给全库商品打分，取排名靠前的几百件，把每件商品高出入围线的分差摊到它编码经过的每一步上；束搜索每一步排序前，把这些加分加到路径的累计分数上。两个模型都不重新训练。在不同公开数据集上，给 TIGER 加上它之后，排序准确率 NDCG@10 相对提高 4.9% 到 30.4%；用更窄的束，它也比把 TIGER 的束开宽更准、更快。

生成式推荐 · 评分 4.10 · 深度解读 16 分钟 · Xiongfeng Shan, Xing Tang, Hanchong Chen, Fuyuan Lyu, Lingjie Li, Jingyan Jiang, Duguang Liu, Xiuqi… · 原文

MPQ: A Message-Passing View of Post-Training Quantization

Mon, 26 Oct 2026 08:00:00 +0800

把大模型训练后量化到很低的比特数时，GPTQ 等常用求解器逐块决定每组权重取码本里的哪个值，一块一旦定下就不再改，只差一点的备选值也不再考虑。这篇论文提出 MPQ（消息传递量化），先保留每块各候选值的概率，最后再定。它在两步之间反复交替：一步按这一层的输出误差，求出每块权重的连续估计值和它的可信程度；另一步给每块的各候选值算概率，离估计值越近的候选概率越高，估计越不可信，各候选的概率就越接近。迭代几轮后每块取概率最高的值，再用逐块坐标下降修一遍。在 Llama、Qwen 和 Mistral 系列上，它的困惑度和零样本准确率都更好，比特越低优势越大。Llama-3-8B 压到 2 比特时，困惑度约 11.6，对比方法是 12.76。

生成式推荐 · 评分 3.00 · Yanshuo Chen, Chenxi Liu, Reza Shirkavand, Heng Huang · 原文

How Language Models Learn Taste: Brand Preference in LLMs

Sun, 25 Oct 2026 08:00:00 +0800

让大模型「说出一个跑鞋品牌」，它多半答 Nike；换成「推荐一个跑鞋品牌」，它更可能答 Brooks。论文用 102 个模型、42 个品类量化了这个现象，有 26 个品类的答案会这样换掉，而且各家模型一起换到同一个品牌：Chrome 换成 Firefox，Google 换成 DuckDuckGo。随口说出的多是市场老大，认真挑选时选中的多是小众或专业品牌。作者顺着训练阶段往回查，发现关键是偏好训练那一步，而那一步的训练数据里几乎没出现过品牌。

生成式推荐 · 评分 4.00 · 深度解读 13 分钟 · Tapan Parikh · 原文

A Cue's Hidden Price: Auditing Seller Influence on AI Shoppers

Sun, 25 Oct 2026 08:00:00 +0800

两款耳机价格、星级、参数完全一样，只有一款多了一句「我们最畅销的型号，超过 10,000 名顾客选择」。在六对这样的耳机上让 GPT-4o 挑，144 次里它全挑了带这句话的那款。把这款慢慢涨价，要贵出约 13% 它才开始犹豫。换成一句平淡的商品介绍，只要贵 2% 左右就没了优势。两句话看选中率一模一样，换算成钱却差了六倍。作者想用这个办法，给卖家写的每一句话标个价。

生成式推荐 · 评分 4.00 · 深度解读 12 分钟 · Felix Buecheler, Gerardo Berbeglia, Mingyu Guo · 原文

Prompting Strategy Effects Depend on the Judge: A Multilingual Study of LLM-as-a-Judge Robustness

Sun, 25 Oct 2026 08:00:00 +0800

用大模型当裁判给多语种的输出打分时，大家常照搬英文上的经验，比如让裁判先写推理过程，或者让它扮演专家。作者在 4 个裁判模型、27 种语言上把 9 种提示写法都试了一遍，发现这些经验搬不过去：换哪个裁判模型的影响，比换什么提示写法大得多；同一种写法，对这个裁判有用，换个裁判可能反而变差；到了小语种，结果更不稳定，而且只看平均分时这些问题全被盖住了。结论很直接：提示写法要在你自己的裁判模型和语言上重新验证。

生成式推荐 · 评分 3.85 · Asal Mehrabi, Mohammad Aliannejadi, Clemencia Siro · 原文

LLM Multi-Agent Systems Are Vulnerable to Herding and Runaway Cascades

Sun, 25 Oct 2026 08:00:00 +0800

一群大模型 agent 互相推荐歌，如果每个 agent 都能看到「这首歌已经被推荐了多少次」，会发生什么？作者照着社会学里经典的「音乐实验室」实验做了一遍：歌都是 agent 没听过的，一组能看到累计推荐数，一组看不到。能看到的那组很快一窝蜂地挤向少数几首歌，最后哪首走红几乎是碰运气，跟歌本身好不好越来越没关系。跟同样实验里的真人比，大模型更容易跟风，而且一旦跑偏就很难自己拉回来。用多个 agent 做推荐或互评时，让它们互相看到热度是有风险的。

生成式推荐 · 评分 3.75 · Farnoosh Hashemi, Shiyu Ji, Joice Chen, Michael W. Macy · 原文

UniRec: A Unified Expressive-Aligned Generative Recommendation Framework for E-commerce

Sat, 24 Oct 2026 08:00:00 +0800

生成式推荐逐层生成商品的 Semantic ID，在生成第一层之前看不到任何商品侧信息，这是它和判别式排序模型之间的差距：判别模型给候选打分时能直接看到商品的类目、店铺、品牌这些特征，和用户特征做交叉。UniRec 先让模型生成商品的类目，再在已知类目的条件下生成 Semantic ID，相当于在解码路径里补回判别模型能用的商品特征。上线后订单提高 4.76%，GMV 提高 5.60%。

生成式推荐 · 评分 4.65 · 深度解读 15 分钟 · Ziliang Wang, Gaoyun Lin, Xuesi Wang, Shaoqiang Liang, Yili Huang, Weijie Bian, Li Zhang, Mingchen… · 原文

GenPage: Towards End-to-End Generative Homepage Construction at Netflix

Sat, 24 Oct 2026 08:00:00 +0800

Netflix 首页原来由多阶段推荐系统拼出来，先召回候选行和候选影片、再分别排序、最后组页，GenPage 改用一个 decoder-only Transformer 直接生成整页。首页由多行组成，每行是一个主题。用户历史、账号属性和请求信息编码成 prompt，模型按从左到右、从上到下的顺序逐个生成行 token 和影片 token。训练照搬大模型的流程，先在线上获得正反馈的首页上做下一 token 预测预训练，再用加权二分类或强化学习做后训练：前者给每个曝光的行或影片按用户反馈的正负定标签、按奖励大小定权重，后者按整页曝光影片的奖励之和来优化。它在 14 天 A/B 中把 Netflix 用来决定新算法能否上线的核心用户互动指标提升 0.24%，端到端延迟降低 20%。

生成式推荐 · 评分 4.45 · 深度解读 12 分钟 · Lequn Wang, Jiangwei Pan, Linas Baltrunas · 原文

OneLatent: Latent Reasoning for Efficient Foundation Recommendation Models

Sat, 24 Oct 2026 08:00:00 +0800

把大语言模型当作推荐底座时，让模型先写一段自然语言推理再输出下一个物品的语义编码，推理文本比语义编码长得多，解码时间和吞吐都被它拖住。OneLatent 的做法是在用户上下文后面接 3 个固定的特殊 token，训练分几步：先让模型在这些 token 之后复现教师大模型写的推理文本，再改成在它们之后直接输出目标语义编码；上线时只接这些 token，不生成任何推理文字。在工业数据上，OneLatent 前 64 个候选的语义编码命中率比先写推理再作答高 17.44%，推理吞吐是显式推理的 17.49 倍。

生成式推荐 · 评分 4.40 · 深度解读 14 分钟 · Hao Jiang, Peiru Du, Pengfei Yao, Mengting Li, Siyuan Lou, Kuo Cai, Sheng Yu, Qiang Luo, Jian Liang… · 原文

Coarse-to-Fine Long-term Interest Modeling for Generative Recommendation

Sat, 24 Oct 2026 08:00:00 +0800

生成式推荐一个码一个码地生成下一个物品的 Semantic ID，注意力计算量随序列长度平方增长，所以这类模型通常只吃最近几十条行为，用不上长期历史。GLASS 按 Semantic ID 的层级分开用长期历史。生成第一层码之前，它给每个一级码取该类物品向量的平均当原型。再把余弦相似度区间等分成若干档，统计长期历史里和原型的相似度落在每一档的物品数，所有一级码的计数拼起来经一个小网络压成一个兴趣 token 送进编码器；第一层码生成之后，拿它当检索键，从长期历史里取出同一大类的物品，辅助生成后两层码。在 TAOBAO-MM 上，R@1 比最强基线高 21.57%；短视频平台两周 A/B 中，召回率绝对提升 3 个百分点。

生成式推荐 · 评分 4.20 · 深度解读 11 分钟 · Shiteng Cao, Junda She, Ji Liu, Bin Zeng, Chengcheng Guo, Kuo Cai, Qiang Luo, Ruiming Tang, Han Li,… · 原文

CSG4Rec: Collaborative-Similarity Guided Semantic IDs Tokenization for Generative Sequential Recommendation

Sat, 24 Oct 2026 08:00:00 +0800

生成式推荐把每件商品编成一串 Semantic ID，这项工作发现，把用户行为上的相似关系直接放进编 ID 的空间里学，比事后再去对齐效果更好，在三个常用数据集上都超过了已有的强基线。现有做法先按商品内容编好 ID，再拿 ID 的向量去对齐协同过滤学到的 embedding，但两种向量不在同一个空间里，硬对齐效果有限，也学不到哪些商品常被同一批用户购买。它改为先用协同过滤给每件商品找出行为上相近和不相近的商品，再让前者的 ID 向量靠近、后者远离。它还把用户交互过的商品的文本向量合起来，同样编成用户的 Semantic ID，和商品 ID 一起输入生成模型。商品 ID 不光要反映内容，也要反映哪些人会一起买它。

生成式推荐 · 评分 3.95 · Wei Liu, Bo Yang, Qianyang Zhu, Ruijie Xiao, Sirui Huang, Qing Li · 原文

Evaluating LLM-based conversational recommenders with semantic and genre-aware metrics

Sat, 24 Oct 2026 08:00:00 +0800

让大模型陪用户聊天、给他推荐电影时，常用的 Recall@K 和 BLEU 只看推荐的是不是数据集里用户最后选的那一部，可很多没对上的推荐其实也合他的口味。在 ReDial 和 INSPIRED 两个电影推荐对话数据集上，这项研究统计到，标准答案只有 39% 的时候出现在前 10 个推荐里，而在推荐出的所有电影中，有 53% 至少和标准答案属于同一类型。他们据此加了按电影类型计分的指标，前 10 个推荐里只要有和标准答案同类型的电影，就算推荐对了，再用同一套流程比较了六个指令微调过的大模型。结果是模型越大不一定推荐得越好，是否接入知识图谱、给多少上下文影响更大。评测对话推荐，要看推荐是否对上用户的偏好，而不只看有没有猜中唯一答案。

生成式推荐 · 评分 3.85 · Darshna Parmar, Dhruv Shah, Pramit Mazumdar, Saurav Mallik · 原文

Integrating implicit desire fusion for proactive conversational recommendation systems with LLMs

Sat, 24 Oct 2026 08:00:00 +0800

对话推荐时，先从用户零散的几句话里推断他真正想要什么，再决定追问还是推荐，成功率会高得多。在 LastFM 音乐推荐上，让 GPT-3.5-Turbo 和模拟用户对话，加上这一步后，15 轮内推荐成功的比例从 0.327 提高到 0.583。比如用户先说想听点安静的音乐，又补一句不要快节奏，过去常听爵士和氛围音乐。DESIRE 让大模型把这些话、他的收听记录、检索到的歌曲信息，比如某首爵士乐节奏很慢，和他刚拒绝过的歌放在一起，推断他真正的需求。之后大模型判断这些信息够不够推荐，不够就追问，比如直接问或让用户在两个选项里比较，够了就推荐，并用摆证据或打感情牌这类方式说服，回复里提到的歌曲属性以检索到的信息为依据。

生成式推荐 · 评分 3.85 · Sitong Yan, Shengli Song, Chengen Lai, Jingyang Li, Guangneng Hu · 原文

Controllable Generative Recommendation via Guided Token Refinement