02 3.55
股票、保险这类收益随机的产品,用户喜不喜欢取决于整个收益分布和他有多怕风险,只给每个产品学一个得分的方法,分布一变就不准。IncVNM 给每个用户学一条效用函数,描述这个人怎么在风险和收益之间取舍。用户点击一屏产品后,点击顺序被拆成两两比较,点得靠前的胜过靠后或没点的,模型在上一版估计上做尽量小的修改来满足这些比较。下一屏先用当前效用给产品打分,再带熵正则地采样,高分的更可能入选,但不总是只选最高分,以便收集新的比较。作者用 463 只标普 500 成分股模拟怕风险的用户,在不同点击噪声下都胜过期望收益、均值方差等基线。
03 3.55
酒店评分只有位置、服务、性价比这几项,但用户在评论里还会写早餐、噪音这些没列出的方面。这篇论文把评论拆成句子,用句向量算每句话和各个预设评分项的相似度:和某一项最像的,归到那一项,再用情感分析估出一个评论里隐含的评分;和所有预设项都不够像的(相似度低于 0.3),归为预设之外的方面,同样单独估评分。最后把预设评分、隐含评分和预设之外的评分一起输入神经网络,预测总评分。在 TripAdvisor 上,误差 MSE 比最强基线 MRRRec 低 3.08%,Beer Advocate 上低 3.65%。提升不大,但三类评分缺任何一类,误差都会变高。
04 3.70
动态图上预测下一条交互(比如哪个用户下一步会看哪个物品),现在通常是每个数据集单独训练一个模型。这篇想做一个能跨数据集通用的预训练模型。做法是把每次查询之前的历史整理成表格里的一行特征,内容是谁和谁反复联系过、通过哪些中间节点间接相连、按先后顺序访问过哪些目的地。这样现成的表格基础模型就能直接读,不需要再训练一个专门的图编码器。作者再用大量合成的动态图继续训练它,到真实图上只用训练期的带标签样本当上下文,不更新参数。在 TGB 和 TGB-Seq 的 13 个数据集里,CL-DGFM 在 10 个上拿到最高 MRR,Flickr 上比最强基线高 15.24 个百分点,Wiki 上略低于 TPNet。
05 3.30
用户给酒店既打了价值、服务、清洁几个分项星级,又写了一段评论,这两种信息怎么合起来预测总评分?以前的模型要么只用分项评分,要么只用从评论里抽出的方面评分。MRRRec 把两者合在一起:从评论文字里估出各个方面的隐含评分,分项评分里用户没填的项,由已填的项预测补上,最后用注意力机制合成总评分。在 TripAdvisor 上,相对 ANR、DeepCoNN 等基线,MSE 平均低 19%。消融里,去掉分项评分、只用评论,MSE 升高 7.7%;去掉评论、只用分项评分,只升高 0.6%。所以主要增益来自分项评分,评论文字补的是小一些的部分。作者也承认,模型还说不清评论里的哪个方面对应哪一项分项评分。
06 3.45
给一个新的表格任务选算法并调超参,常用贝叶斯优化。但把各个算法的超参数拼成输入,维度很高,而且对任何一个配置来说,大部分维度都是无效的,很难学。这篇换了一种描述配置的方式:不看它的超参数值,而是用它在以前各个任务上的成绩组成的向量,思路和推荐里用物品被用户打过的历史分数来描述物品一样。配上最简单的贝叶斯岭回归,在 TabArena 的选算法加调参任务上,ABLR 需要 149 次评估才能达到的水平,它 73 次就到了,接近少一半。拟合模型也快得多,每个任务不到 3 秒,而 GP-Hyper 要两小时左右。只调单个 XGBoost 时,最好的仍是 ABLR,它排第二。
07 3.35
拿开源小模型给聊天机器人的回复打分当裁判,它的打分往往和人工标注者对不上。这篇的做法是冻结模型参数,只训练接在文字评分标准前面的一小串可学习的提示向量,让裁判学到人工标注者的打分习惯。训练和测试用的是电商客服对话基准 FairBotBench,每条回复有人工在偏见、毒性、个性化三个维度上打分。以和人工评分的一致性(Krippendorff α)衡量,Qwen 3.5 0.8B 在毒性维度上原本和人工评分是负相关,调完后一致性达到 0.735;Qwen 3.5 9B 调完后,三个维度都超过了作为参照的两个商用裁判。作者提醒,提升幅度和该不该保留文字评分标准都因模型和任务而异,用之前要在自己的裁判模型上重新验证。
08 3.35
想让表格基础模型预测得更准,把做上下文学习的 Transformer 加深收益很小,空间在它前面。TabAbax 在 TabICLv2 上只改两处。一处是预训练用的合成表格。分类特征的类别数和预设值严格一致,各类别的占比用 Dirichlet 等多种分布来抽,回归目标不再在生成后做一次拉伸数值的单调变换,目标和特征之间保持生成时本来的平滑关系。另一处是编码器,先在同一列的各行之间做一次注意力计算,再在同一行的各列之间做一次,这一对操作由一遍改成两遍。回归任务上 Elo 比 TabICLv2 高 336,只换合成数据就涨了 228,大部分提升来自预训练数据的质量。