今日场景今天生成式推荐赛道有 10 篇,4 篇有深度解读,主线是把生成式推荐真正放到线上去跑。快手的 GR4AD-X 让广告召回按收入而不是生成概率来剪枝。阿里的 PFA 让长历史解码时所有 beam 共用一份重要行为排名,省下大部分注意力计算。淘宝的 UGR 把上千个跨业务候选直接生成为最终列表,跳过各业务分别排序再混排的环节。RoFiGR 用协同信息管住 SID 前几个码的大方向。另有用检索结果训练 query 生成器、树形 SFT、联邦推荐 agent、DoorDash 的生成式用户 embedding 等工作,以及一篇测出大模型推荐会被候选顺序左右的审计。做广告召回的团队可以先看 GR4AD-X 和 PFA,做混排的可以先看 UGR。 — 评分 31 篇,入选 10 篇,分数 3.45 – 4.35

本期目录 · 10 篇
  1. 01Towards Reliable, Scalable, and Value-Aligned Generative Recommendation for Large-Scale Advertising
  2. 02PFA: Attention Can Be Progressively Focused in Long-Sequence Generative Recommendation
  3. 03UGR: Unified Generative Ranking for Heterogeneous E-commerce Recommendation
  4. 04RoFiGR: Coarse Routing, Fine Refinement via Level-Adaptive Distillation in Multimodal Generative Recommendation
  5. 05R2QRec: Learning Recommendation Queries from Retrieval Feedback
  6. 06Statistical Detection of Positional Bias in LLM-Based Recommender Systems: Methodologies and Empirical Evidence
  7. 07Merge and Branch: Efficient Tree-Structured Supervised Fine-Tuning of LLMs for Recommendation
  8. 08Federated Recommender Agents
  9. 09PALATE: Pretrained Autoregressive LATent Embeddings
  10. 10Category-Anchored Large Language Models for Next POI Recommendation
LEAD STORY · 今日必读 · Kuaishou

Towards Reliable, Scalable, and Value-Aligned Generative Recommendation for Large-Scale Advertising

广告生成式召回按生成概率挑广告,平台要的却是收入。快手量过,按生成概率排出的前十名和 eCPM 最高的前十名几乎不重合,命中率只有约 0.02。GR4AD-X 在已上线的 GR4AD 上改了三处。建 SID 时第一层保留离广告最近的几个聚类中心,一条广告因此有几条路径,不会因为一个前缀被剪掉就召不回。加容量时不放大主干,而是加输入信号、加大编码器和 SID 词表的 embedding 等。每个 SID 前缀取它下面广告的平均收入当价值,训练每层的价值头去预测它,剪枝时先多留一倍候选,用 RRF 把概率排名和价值排名合成一份再截断。三处改动在线上逐个叠加验证,累计让广告收入比 GR4AD 高 3.07%。

相关 4新颖 4实用 5证据 5时效 4
4.35
综合分 / 5
偏好调整 4.60
Yatong Xiao, Yibo Sheng, Lixiang Wang, Mingjie Sun, Yunhao Sha, Pengfei Zhang 等 10 人 · 2026-10-28 · arXiv

今日其余入选

9 篇 · 按综合排名
02 4.35

PFA: Attention Can Be Progressively Focused in Long-Sequence Generative Recommendation

AlibabaZhejiang University📖 深度解读 · 14 分钟 →

生成式推荐做 beam 解码时,每一步、每条 beam 都要对整段用户历史算一遍注意力,历史越长越慢。阿里的作者发现,解码越往后,注意力越集中在少数几条历史行为上,而且哪些行为重要,前后几步基本不变。PFA 据此只在解码开头看完整历史,之后把各条 beam 的注意力按生成概率加权汇总,排出一份所有 beam 共用的重要行为排名,把这些行为的 KV cache 挪到连续内存里。之后每往后一步,保留的行为数按固定比例缩小,比如每步减半。重要的行为前几步就能找出来,后面不必每步重选。在电商广告平台的线上 A/B 中,用户历史从 128 条加长到 512 条。收入提升 3.76%,响应时间仍比直接用完整的 512 条更短。

Pengjie Zhou, Weiqin Yang, Haibo Xing, Hao Deng, Jinxin Hu
arXiv·2026-10-29·Relevance 4 · Novelty 4 · Practical 5 · Evidence 5 · Timely 4
03 4.35

UGR: Unified Generative Ranking for Heterogeneous E-commerce Recommendation

Alibaba

电商推荐的生成式排序有个错位:模型学着生成的列表,并不是用户最后看到的列表。一屏里同时有自然内容、广告和其他业务的商品,常见做法是各业务先各自排好,再由混排拼成最终列表,拼完之后位置和上下文都变了。淘宝的 UGR 把一次请求里约一千个跨业务候选一起交给一个生成模型,直接逐个生成最终列表。训练时不只模仿曝光过的序列,还按曝光后的点击和成交给样本加权,并让模型学会比较两种排列哪种更好;广告部分沿用现有的分配和 GSP 计价规则。在猜你喜欢的线上 A/B 中,成交量提升 3.29%,GMV 提升 2.10%。

Zonghe Shao, Huabin Chen, Sitong Lu, Fangmei Zhu, Yingcai Ma, Ge Fan, Jinguo Gao, Wei Shi 等 10 人
arXiv·2026-10-29·Relevance 4 · Novelty 4 · Practical 5 · Evidence 5 · Timely 4
04 4.00

RoFiGR: Coarse Routing, Fine Refinement via Level-Adaptive Distillation in Multimodal Generative Recommendation

📖 深度解读 · 14 分钟 →

生成式推荐逐个码地生成物品的 SID,前几个码决定大方向。前面走错一个分支,后面再准也找不回相关物品。多模态推荐里这个问题更突出:SID 多按图文语义构建,前几个码未必反映哪些物品常被同一批用户购买。RoFiGR 在构建 SID 时就把前两层码向量和冻结的协同 embedding 对齐;生成时再用一个序列推荐模型当老师,在每一步告诉学生模型各个能对应到真实物品的分支该有多大概率。前几层固定给较大的蒸馏权重,其余权重看哪一层上老师比学生更看好正确的分支,就多分给哪一层。在三个亚马逊数据集上,五个排序指标都超过对比基线。把三个数据集、五个指标共 15 组结果平均,相对最强基线高约 9.4%。

Ji Dai, Zhipeng Wei, Zhuang Zhuang, Rongfeng Guo, Jie Chen, Quan Fang, Fei Pan
arXiv·2026-10-29·Relevance 4 · Novelty 4 · Practical 4 · Evidence 4 · Timely 4
05 4.00

R2QRec: Learning Recommendation Queries from Retrieval Feedback

用大模型做推荐有一种思路:先根据用户历史写几条搜索 query,再交给现成的检索系统去找物品。难点在于日志里只有用户点了什么,没有当初该写什么 query。常见做法是拿被点物品的文字当目标去模仿,但这样写出的 query 未必能把这个物品检索出来。R2QRec 直接用一个固定的检索器来检验:先生成很多候选 query,只留下真能检索回被点物品的那些做 SFT;再让模型一次写一组 query,每条各检索出一个列表,用 RRF 合成一个推荐列表,GRPO 按被点物品在这个列表里的排名给奖励。只训练 query 生成器,检索器和物品索引都不动。在 MovieTV 上,去掉检索检验这一步,NDCG@10 从 5.07% 掉到 4.03%。

Weixin Chen, Shuchang Liu, Hailan Yang, Yuhan Zhao, Li Kang, Xuefeng Zhang, Chenghao Zhang 等 16 人
arXiv·2026-10-29·Relevance 4 · Novelty 4 · Practical 4 · Evidence 4 · Timely 4
06 4.00

Statistical Detection of Positional Bias in LLM-Based Recommender Systems: Methodologies and Empirical Evidence

把候选商品写进提示词、让大模型挑一个推荐,候选的排列顺序本身就会改变它的选择。作者在一个真实商品目录上搭了 RAG 推荐测试,同一条 query 把候选顺序反复打乱,测了 8 个模型,统计检验在每个模型上都确认推荐结果和位置有关。各家偏向不同:GPT-OSS 偏爱排在前面的,LLaMA 4 Scout 反而避开第一个。候选越多越严重。给 20 个候选时,只是打乱顺序,DeepSeek R1 7B 就有 58.1% 的推荐和它对同一条 query 最常给出的那件商品不一样。顺序带来的偏差取决于模型本身,换温度也去不掉,用大模型做推荐时值得把候选顺序随机化,并定期做这类检查。

Carlos Peláez-González, Francisco Herrera, Andrés Herrera-Poyatos
arXiv·2026-10-27·Relevance 4 · Novelty 3 · Practical 5 · Evidence 4 · Timely 4
07 3.90

Merge and Branch: Efficient Tree-Structured Supervised Fine-Tuning of LLMs for Recommendation

用大模型做生成式推荐时,输入是一长串带文字的历史,输出却只是几个 token 的 SID。训练时费力读完一整段历史,往往只学一个目标物品,很不划算。这篇论文的 M&B 从两头下手:先把每条历史物品压成少数几个 token。先把这件物品各层 SID 码的 embedding 合成一个向量,几个可学习的查询向量各自和它相加,再对物品的 SID 和文字 token 做注意力,每个查询向量取回的内容加回这个向量,就成了一个 token,输入因此变短;再让压缩后的历史同时预测多个目标物品,这些目标像树枝一样共用同一段历史,彼此看不见。解码时所有 beam 也共用同一份历史 KV cache。历史只算一次,每个分支都能回传梯度。历史长度为 512 时,beam 解码的显存少了 61.8%,延迟少了约一成。

Yunqin Zhu, Yao Xie
arXiv·2026-10-27·Relevance 4 · Novelty 4 · Practical 4 · Evidence 3 · Timely 4
08 3.75

Federated Recommender Agents

用大模型 agent 做推荐,把所有用户的记忆集中起来有隐私问题,各个 agent 各自为战又学不到别人的经验。FedRecAgent 让每个用户端的 agent 只上传用自然语言写的经验,不上传交互记录,也不更新模型参数。每条经验写成三段:当时处在什么情境,用户下一步怎么选(接着看当前感兴趣的那类、回到以前喜欢的、还是换个新方向),以及为什么这样选。具体物品和个人偏好都去掉。服务器把情境和选择转移都对得上的经验合并,情境相似但选择不同的分开保存;用户端再按本地的偏好记忆和选择习惯去取最合用的经验。在六个数据集上,最好的版本比最强基线的 NDCG@10 高 1.54% 到 9.19%。

Jaehyung Lim, Woojoo Kim, Junyoung Kim, Dongha Kim, Wonbin Kweon, Hwanjo Yu
arXiv·2026-10-29·Relevance 4 · Novelty 4 · Practical 3 · Evidence 4 · Timely 4
09 4.00

PALATE: Pretrained Autoregressive LATent Embeddings

已录用 CIKM 2026 WorkshopDoorDash

外卖和本地生活平台的广告排序要做到千人千面,但用户的行为历史很稀疏,店铺又有几十万家。DoorDash 原来的排序模型只靠手工统计特征和不分先后的历史汇总,没有一个学出来的用户序列表示。PALATE 训练一个 GPT 式模型,根据用户的行为序列预测接下来会和哪些店铺互动,取最后一个位置的隐藏状态当用户 embedding,每天刷新一次,作为普通特征喂给各个广告位的排序模型。因为复购多,训练时给用户没去过的新店更高权重,先用点击预训练,再用下单微调。离线它是单个特征里 AUC 涨得最多的;上线时随排序模型的整体重训一起发布,搜索广告收入提升 0.94%,转化率提升 1.50%。

Sizhang Zhao, Praveen Gondhi, Bin Li, Utsaw Kumar
arXiv·2026-10-29·Relevance 4 · Novelty 3 · Practical 5 · Evidence 4 · Timely 4
10 3.45

Category-Anchored Large Language Models for Next POI Recommendation

已录用 ICDE 2027

预测用户下一个要去的地点(POI)时,直接让大模型生成地点 ID 并不可靠:地点多、分散、长尾严重,名字本身也没多少语义。ANCHOR 换了个顺序,先让大模型预测用户接下来想去哪一类地方,类别数量少、含义稳定,更好预测;再从三路凑出候选,分别是这一类的地点、用户去过的地点,以及按用户长期、近期和对应时段常去的类别补上的地点;最后用一个参照历史轨迹的重排模型选出具体地点。先猜类别再落到地点,比直接猜地点稳。在纽约、东京和加州三个签到数据集上,它的 Acc@1 比最强的大模型基线 Think2Go 分别高 7.56%、11.21% 和 1.94%。

Lexi Bai, Xiaopeng Zeng, Xun Zhou, Yuanshao Zhu, James Jianqiao Yu
arXiv·2026-10-29·Relevance 3 · Novelty 3 · Practical 4 · Evidence 4 · Timely 4

其他赛道今日

点击切换

开源雷达

GitHub / HuggingFace 热门 · 8 个项目
Boooing/CTR-Nitro-Fueled-Track-EditorTrack editor for CTR Nitro Fueled PS4Python · ★ 8 · 2026-10-25 · GitHubnguyenquanicd/AES-128-256AES128 and AES256 IP core supports ECB, CBC, CFB, OFB and CTR modeSystemVerilog · ★ 6 · 2019-10-25 · GitHubOnlineCTR/serverThe Server Codebase for OnlineCTR. Based off of CTR-ModSDK with the newly written code now under AGPL-3.0.C · ★ 5 · 2026-10-14 · GitHubAlibaba-DAMO-Academy/RynnUnify-Agentic-Reasonerpipeline: image-text-to-text; tags: transformers, safetensors, qwen3_vl, image-text-to-text, rynnunify, embodied-ai, visual-reasoning, reinforcement-learningmodel · ★ 4 · 2026-10-22 · HuggingFaceAlibaba-DAMO-Academy/RynnUnify-GEU-BenchRynnUnify-GEU-Bench RynnUnify-GEU-Bench is the GEU (Generation Enhanced Understanding) benchmark used for the RynnUnify family. It contains 2000 multi-turn samples across 10 subsets and 3 task families, each paired with its source images and a stored rollout video. Each record wa; tags: task_categories:visual-question-answering, language:en, license:other, size_categories:1K<n<10K, region:us, embodied-ai, spatial-reasoning, video-understandingdataset · ★ 2 · 2026-10-29 · HuggingFaceTencentARC/WorldCrafter-Fastpipeline: image-to-video; tags: diffusers, safetensors, arxiv:2609.24984, worldcrafter, text-to-video, camera-control, image-to-video, diffusers:WorldCraftermodel · ★ 24 · 2026-09-21 · HuggingFaceAlibaba-DAMO-Academy/RynnUnify-Basepipeline: any-to-any; tags: safetensors, cosmos3_omni, rynnunify, embodied-ai, world-model, visual-planning, video-generation, any-to-anymodel · ★ 4 · 2026-10-22 · HuggingFaceAlibaba-DAMO-Academy/RynnUnify-WAM-RoboCasatags: safetensors, cosmos3_omni, custom_code, license:other, region:usmodel · ★ 3 · 2026-10-22 · HuggingFace