2026-11-09 周一 · 个性化推荐

今日场景今天的个性化赛道有三条线。第一条是怎么描述用户和商品,酒店评论里的分项评分和文字被放在一起用,收益随机的产品则给每个用户学一条风险偏好曲线。第二条是训练系统,SparseLift 把 embedding 查表和跨卡通信还原成编译器看得懂的子图,再做整图优化。第三条是借来的工具,一篇用配置的历史成绩来选算法,一篇用一小串提示向量让小模型裁判贴近人工打分。 — 评分 87 篇,入选 8 篇,分数 3.30 – 3.90

本期目录 · 8 篇
  1. 01SparseLift: Automatically Optimizing Opaque Sparse Paths in Industrial-Scale Recommendation Model Training
  2. 02IncVNM: An Interactive Recommender System with Incremental von Neumann-Morgenstern Utility Learning
  3. 03Multicriteria Recommendation System by Leveraging Predefined, Implicit, and Undefined Criteria
  4. 04A Common Language for Dynamic Graphs: Interaction Tokenization Enables Foundation Models
  5. 05Multi-criteria Rating and Review based Recommendation Model
  6. 06Simple Meta-Learning for HPO and CASH Using Performance Representations
  7. 07Adapting LLM Judges to Observed Human Annotation Policy through Soft Prompt Tuning
  8. 08TabAbax: A Tabular Foundation Model Technical Report
LEAD STORY · 今日必读

SparseLift: Automatically Optimizing Opaque Sparse Paths in Industrial-Scale Recommendation Model Training

推荐模型训练里,embedding 查表和跨卡通信这一段(论文叫稀疏路径)在计算图里是一个个黑盒节点,编译器看不见里面的结构,没法把它们和前后的计算放在一起整体优化。SparseLift 先根据模型结构和运行时信息,把黑盒还原成能分析的子图,再用代价模型判断每种优化相对当前执行计划到底划不划算,把划算的排成一份计划,之后稳定训练都复用它。在一个有 1000 亿稀疏参数的视频平台推荐训练任务上,8 卡的稳态吞吐提高 16.5%。逐项关掉优化后,让部分稀疏计算提前执行、减少下游等待的那一项最重要,去掉它单步耗时多出 12.7%。

相关 4新颖 4实用 4证据 4时效 3
3.90
综合分 / 5
偏好调整 3.65
Changqing Shi, Anan Liu, Genbao Chen, Junchao Yang · 2026-11-01 · arXiv

今日其余入选

7 篇 · 按综合排名
02 3.55

IncVNM: An Interactive Recommender System with Incremental von Neumann-Morgenstern Utility Learning

股票、保险这类收益随机的产品,用户喜不喜欢取决于整个收益分布和他有多怕风险,只给每个产品学一个得分的方法,分布一变就不准。IncVNM 给每个用户学一条效用函数,描述这个人怎么在风险和收益之间取舍。用户点击一屏产品后,点击顺序被拆成两两比较,点得靠前的胜过靠后或没点的,模型在上一版估计上做尽量小的修改来满足这些比较。下一屏先用当前效用给产品打分,再带熵正则地采样,高分的更可能入选,但不总是只选最高分,以便收集新的比较。作者用 463 只标普 500 成分股模拟怕风险的用户,在不同点击噪声下都胜过期望收益、均值方差等基线。

Jiaxin Wei, Jia Liu
arXiv·2026-11-01·Relevance 4 · Novelty 3 · Practical 4 · Evidence 3 · Timely 3
03 3.55

Multicriteria Recommendation System by Leveraging Predefined, Implicit, and Undefined Criteria

酒店评分只有位置、服务、性价比这几项,但用户在评论里还会写早餐、噪音这些没列出的方面。这篇论文把评论拆成句子,用句向量算每句话和各个预设评分项的相似度:和某一项最像的,归到那一项,再用情感分析估出一个评论里隐含的评分;和所有预设项都不够像的(相似度低于 0.3),归为预设之外的方面,同样单独估评分。最后把预设评分、隐含评分和预设之外的评分一起输入神经网络,预测总评分。在 TripAdvisor 上,误差 MSE 比最强基线 MRRRec 低 3.08%,Beer Advocate 上低 3.65%。提升不大,但三类评分缺任何一类,误差都会变高。

Emrul Hasan, Chen Ding
arXiv·2026-11-01·Relevance 4 · Novelty 3 · Practical 4 · Evidence 3 · Timely 3
04 3.70

A Common Language for Dynamic Graphs: Interaction Tokenization Enables Foundation Models

动态图上预测下一条交互(比如哪个用户下一步会看哪个物品),现在通常是每个数据集单独训练一个模型。这篇想做一个能跨数据集通用的预训练模型。做法是把每次查询之前的历史整理成表格里的一行特征,内容是谁和谁反复联系过、通过哪些中间节点间接相连、按先后顺序访问过哪些目的地。这样现成的表格基础模型就能直接读,不需要再训练一个专门的图编码器。作者再用大量合成的动态图继续训练它,到真实图上只用训练期的带标签样本当上下文,不更新参数。在 TGB 和 TGB-Seq 的 13 个数据集里,CL-DGFM 在 10 个上拿到最高 MRR,Flickr 上比最强基线高 15.24 个百分点,Wiki 上略低于 TPNet。

Fuyuan Ma, Yili Wang, Xin He, Xin Zhang, Ying Wang, Xin Wang
arXiv·2026-11-02·Relevance 3 · Novelty 4 · Practical 4 · Evidence 4 · Timely 4
05 3.30

Multi-criteria Rating and Review based Recommendation Model

用户给酒店既打了价值、服务、清洁几个分项星级,又写了一段评论,这两种信息怎么合起来预测总评分?以前的模型要么只用分项评分,要么只用从评论里抽出的方面评分。MRRRec 把两者合在一起:从评论文字里估出各个方面的隐含评分,分项评分里用户没填的项,由已填的项预测补上,最后用注意力机制合成总评分。在 TripAdvisor 上,相对 ANR、DeepCoNN 等基线,MSE 平均低 19%。消融里,去掉分项评分、只用评论,MSE 升高 7.7%;去掉评论、只用分项评分,只升高 0.6%。所以主要增益来自分项评分,评论文字补的是小一些的部分。作者也承认,模型还说不清评论里的哪个方面对应哪一项分项评分。

Emrul Hasan, Chen Ding, Alfredo Cuzzocrea
arXiv·2026-11-01·Relevance 4 · Novelty 3 · Practical 3 · Evidence 3 · Timely 3
06 3.45

Simple Meta-Learning for HPO and CASH Using Performance Representations

给一个新的表格任务选算法并调超参,常用贝叶斯优化。但把各个算法的超参数拼成输入,维度很高,而且对任何一个配置来说,大部分维度都是无效的,很难学。这篇换了一种描述配置的方式:不看它的超参数值,而是用它在以前各个任务上的成绩组成的向量,思路和推荐里用物品被用户打过的历史分数来描述物品一样。配上最简单的贝叶斯岭回归,在 TabArena 的选算法加调参任务上,ABLR 需要 149 次评估才能达到的水平,它 73 次就到了,接近少一半。拟合模型也快得多,每个任务不到 3 秒,而 GP-Hyper 要两小时左右。只调单个 XGBoost 时,最好的仍是 ABLR,它排第二。

Emiel Witting, Cheng Yan, Tom Julian Viering
arXiv·2026-11-05·Relevance 3 · Novelty 3 · Practical 4 · Evidence 4 · Timely 4
07 3.35

Adapting LLM Judges to Observed Human Annotation Policy through Soft Prompt Tuning

拿开源小模型给聊天机器人的回复打分当裁判,它的打分往往和人工标注者对不上。这篇的做法是冻结模型参数,只训练接在文字评分标准前面的一小串可学习的提示向量,让裁判学到人工标注者的打分习惯。训练和测试用的是电商客服对话基准 FairBotBench,每条回复有人工在偏见、毒性、个性化三个维度上打分。以和人工评分的一致性(Krippendorff α)衡量,Qwen 3.5 0.8B 在毒性维度上原本和人工评分是负相关,调完后一致性达到 0.735;Qwen 3.5 9B 调完后,三个维度都超过了作为参照的两个商用裁判。作者提醒,提升幅度和该不该保留文字评分标准都因模型和任务而异,用之前要在自己的裁判模型上重新验证。

Tamás Janusko, Sven Kleinkop, Ricardo Bochnia, Gunnar Hempel, Steffen Tomschke, Jürgen Anke 等 7 人
arXiv·2026-11-04·Relevance 3 · Novelty 3 · Practical 4 · Evidence 3 · Timely 4
08 3.35

TabAbax: A Tabular Foundation Model Technical Report

想让表格基础模型预测得更准,把做上下文学习的 Transformer 加深收益很小,空间在它前面。TabAbax 在 TabICLv2 上只改两处。一处是预训练用的合成表格。分类特征的类别数和预设值严格一致,各类别的占比用 Dirichlet 等多种分布来抽,回归目标不再在生成后做一次拉伸数值的单调变换,目标和特征之间保持生成时本来的平滑关系。另一处是编码器,先在同一列的各行之间做一次注意力计算,再在同一行的各列之间做一次,这一对操作由一遍改成两遍。回归任务上 Elo 比 TabICLv2 高 336,只换合成数据就涨了 228,大部分提升来自预训练数据的质量。

Zhixiong Cheng, Xiaoyun Gao, Shiyuan Han, Jingjing Suo, Zhengli Wang
arXiv·2026-10-31·Relevance 3 · Novelty 3 · Practical 4 · Evidence 4 · Timely 3

其他赛道今日

点击切换

开源雷达

GitHub / HuggingFace 热门 · 8 个项目
jessybiru/biostatistics-health-research-resourcesA curated collection of free resources for biostatistics, epidemiology, statistical programming and health research.★ 22 · 2026-11-06 · GitHubArafat-shuvo/Deep-Learning-with-PyTorchPyTorch: A comprehensive learning framework for mastering deep learning, neural networks, computer vision, and modern AI architectures through hands-on implementations, practical projects, and research-oriented experiments.Python · ★ 21 · 2026-11-03 · GitHubmurk-sus/natsuk1natsuk1 — iOS 27.2 F1/AGX kernel research archive: IOSurface wrap, AGX sel8, reconnect hang, SPTM/TTBATObjective-C · ★ 17 · 2026-11-07 · GitHubinternlm/InternLumina-U2pipeline: any-to-any; tags: transformers, safetensors, diffusion, multimodal, unified-model, image-generation, image-editing, vision-languagemodel · ★ 17 · 2026-09-01 · HuggingFaceinternlm/Sage-SciPerceptiontags: scientific-perception, multimodal, projector, pytorch, chemistry, biology, materials-science, time-seriesmodel · ★ 9 · 2026-11-06 · HuggingFaceQwen/Qwen3.8-Flash-Nextpipeline: image-text-to-text; tags: transformers, safetensors, qwen4_exp, image-text-to-text, conversational, license:other, eval-results, endpoints_compatiblemodel · ★ 6860 · 2026-08-24 · HuggingFacemoonshotai/Kimi-K3.1-Propipeline: image-text-to-text; tags: transformers, safetensors, kimi_k31, text-generation, compressed-tensors, conversational, image-text-to-text, custom_codemodel · ★ 1721 · 2026-11-02 · HuggingFaceQwen/Qwen3.8-2.4T-A95Bpipeline: text-generation; tags: transformers, safetensors, qwen3_5_moe_text, text-generation, conversational, license:other, eval-results, endpoints_compatiblemodel · ★ 1378 · 2026-08-08 · HuggingFace