02 4.40
在 OneTrans 这类统一 Transformer 的 CTR 模型里，作者在快手 KuaiRand 数据上试了六种位置编码，没有一种比完全不加位置编码更好。武汉大学和腾讯的这篇论文据此提出 TRIP（作者给整套方法起的名字）：每个行为同时编码它在序列里排第几，以及它离这次预测过去了多久，并按这个时间距离分组：把离这次预测的秒数取以 2 为底的对数再取整，每组覆盖的时间是前一组的两倍；同组的行为互相可见，不同组之间只能看更早的组。同一段历史，换一个曝光时间，每个行为离现在多远就全变了，语言模型的位置编码没考虑过这点。在四个公开数据集上，AUC 比最强基线平均相对提升 1.47%，在腾讯广告数据集 TAAC（腾讯公开的广告点击数据）上最高提升 4.45%。
03 4.10
多兴趣召回常见的问题是几个兴趣向量最后指向同一方向。Criteo 和索邦大学的 COMPOTE 在共享的因果 Transformer 后面接几个预测头，每个样本按各头给真实物品的概率分配梯度，权重正比于概率的 1/τ 次方：温度 τ 高时各头一起学，τ 降到接近 0 时只更新猜得最准的那个头。推理时每个物品取几个头里最高的余弦相似度排序。多兴趣召回缺的往往不是更多向量，而是让向量分工的训练目标：同等参数量下，平均训练或加路由门控的几个头方向完全重合，COMPOTE 的头则明显分开，在三个 Amazon 数据集上拿了 12 个指标中的 11 个第一。
04 4.10
长期历史和社区信号是不是总有用？BehaveRec 的答案是要看用户有多少历史。它把三路信号合在一起：当前会话的因果 Transformer、过去 90 天历史的双向编码器，以及按行为相似度建的用户图，再用一个门控按用户决定各用多少。在千万级用户的工业数据上，Recall@5 比 SASRec 高 3.2%，参数更多的 SASRec 仍然落后，所以不是靠模型更大。更有用的是分层结果：历史很少的用户几乎没有提升，之后随历史增多单调变大，历史少于约 10 次时基本无效，作者据此给出约 20 次交互的上线门槛。这些结论是在类目级意图预测上得到的，物品级只做了一次初步检查，结果方向不一。
05 4.10
序列推荐里，表示用户偏好的部分和打分时用到的历史行为往往各看各的。RELAY 让一个学出来的 query 先对历史做注意力，得到偏好表示，再拿同一组注意力权重给两路记忆加权：直接历史给用户看过的物品本身加分；转移记忆是训练集里统计的物品 a 之后紧跟物品 b 的次数，取对数后，每个历史物品按自己的注意力权重给它常接的物品加分。偏好表示和打分用的是同一组被选中的历史行为，两边不会脱节。每个候选有门控决定更信哪一路，一次前向完成排序。在六个数据集上，NDCG@5 比之前最好的模型平均高 17.88%，预测部分的参数量少 65%，推理快约 1.75 倍。
06 4.10
多模态推荐常按内容相似度建物品图，常被一起买、但长得不像的互补品（比如相机和存储卡）却各自孤立。MAGE 先在离线阶段，把每个物品的共同购买物品按和它的文本相似度排位，最像的一批当替代品，最不像的一批当互补品；物品和替代品的文本向量拼成矩阵做 SVD，每个方向的去除比例是奇异值平方除以（奇异值平方加一个常数），奇异值越大越接近全部去掉；每个互补品按这些比例去掉替代品方向上的部分，残差取平均，加到物品文本向量上。在线时，图像特征走相似物品图，增强后的文本特征走共同购买图，再用门控融合。先在几何上拉近互补品，传播才不会只在相似物品之间打转。四个 Amazon 数据集上 Recall@20 比最强基线高 2.8% 到 6.5%。
07 4.05
很多团队每天重训一版物品共现 embedding 喂给 CTR 模型，但同一个物品的向量方向和长度每天都在变，多天的训练数据其实混着好几个版本。这篇工业实证研究比较了多种处理办法，给出三条结论。第一，把新一天的向量正交对齐到前一天，能让跨天的向量更一致，GAUC 也随之提升 2.6%。第二，用前一天的向量热启动效果好，但向量长度会越积越大；每天把整张 embedding 表乘同一个系数，让物品向量的平均长度回到一个参考值，就能压住，并拿到最高的 4.0% GAUC 提升。第三，下游 CTR 模型里的降维编码器本身也会吸收剩余的漂移，所以上游稳定化和下游学习是互补的。所有数字都是相对基线的百分比，原始值没有公开。
08 4.00
多场景推荐加入图文信息时，通常把图文向量当普通特征塞进原来的共享结构，DuTri 的作者用对照实验说明这不是最优，于是拆成两路。协同那一路对用户、场景、物品三者的交互做 CP 分解：用户和物品因子在所有场景共用，承载共性；场景因子调节两者的交互，承载场景差异；三组因子再各自做残差量化：先从一张向量表（论文叫码本）里挑最接近的一项，剩下的误差再从下一张表里挑，用挑出的几项相加代替原因子。多模态那一路用协同路学到的用户和场景偏好决定图文怎么融合，并用对比学习对齐两路的物品表示。协同信号和图文信号需要的建模方式不同，分开学、再用偏好引导融合更合适。在 AntM2C 和 Amazon 两个数据集上优于现有基线。
09 4.00
Meta 新一代广告召回引擎 Andromeda 把接近排序水平的模型用到了召回，对每个符合条件的广告都打分。新版把单个用户塔换成多个专门的用户塔作为专家，广告塔结合实时请求上下文编码，交互层用注意力门控按广告只激活最相关的几个专家，推理计算量比 2024 版少约 300 倍，效果接近排序模型。瓶颈从算力转到了显存带宽和网络传输，所以他们把每个用户和广告之间的取 embedding、跑交互模型、打分三步合进一个 GPU kernel，中间结果留在寄存器和共享内存里，不再反复写进显存；又把定向规则匹配、打分和取前 K 名放到同一台 GPU 机器上，只回传最终结果。这让系统能在同样延迟内给更多广告打分；2025 年以来，它让 Facebook 上的转化提升 2.4%。
10 3.85
embedding 存储预算固定时，该用小的全精度模型、蒸馏出来的学生模型，还是更高维但低精度的模型？这篇在六个数据集上比较了几种占用字节数完全相同的方案，重点看冷门物品的召回。结果很一致：把大教师模型给出的用户对物品打分矩阵，分解成较高维的用户向量和物品向量，每个数只存 4 bit，只用教师 13% 的存储，冷门物品召回基本和教师持平；同样字节数的低维全精度方案，冷门召回在所有设置里都最低。字节花在维度上比花在精度上更能保住冷门物品。作者还发现，只看学生和教师命中的重合度会在七组设置里有三组选错最好的方案，因为压缩后的模型能找到教师漏掉的冷门物品，所以应该直接看冷门召回。
已录用 NeurIPS 2026
Meta