02 4.20
广告 CVR 模型靠购买、安装这类转化事件做训练标签,但转化很稀少,Meta 这个模型的训练样本里约一半拿不到转化标签。这篇来自 Meta 的论文讲怎么借别的信号来补。用户点击前看广告的时长、加购事件、广告内容的语义等,都作为辅助任务和主任务一起训练。上线推理时只用主任务,不增加开销。辅助信号往往很吵。最有效的办法叫 LaCo:把几个辅助信号用与、或、非这类逻辑组合起来,挑出和真实转化最吻合、尤其误报最少的那个组合,当作一个新标签来训练。它让离线 NE 降低 0.25%。这些改进随其他优化一起上线后,A/B 实验里广告主的转化量显著上升。对做转化预估的团队来说,先把辅助标签做准,比堆更多辅助任务更有用。
03 4.20
新闻推荐有一个漏洞:事实不变,只用大模型把标题改得更煽动,比如加上 Thrilling、Ultimate 这类词,就能在推荐列表里排得更靠前。现有防御往往只针对一两种改写手法。这篇论文先用多种大模型、多种改写策略离线生成一大批核实过事实的改写标题。训练时每次从中随机抽几条,要求模型给原标题和改写标题打出接近的分,同时照常学点击。上线时模型结构不变,也没有额外延迟。在 MIND 数据集的三种推荐模型上,面对训练时没见过的改写模型,它被抬升排名的比例都是最低的,最多比最强的防御基线再低 3.0 个百分点。代价是部分模型的排序指标略有下降。
04 4.10
检测推荐系统里的刷单假账号,论文通常只报一个 AUROC。这篇发现,基于模型向量的检测器在一种更真实的攻击下会完全失灵:攻击者照抄一个真实用户的全部历史物品,只混进一到三个要推的物品。在 MovieLens-1M 上,所有基于向量的检测分数都掉到随机水平。最朴素的办法反而有效:用 Jaccard 相似度算每个账号和其他账号的物品集合最多有多像,AUROC 就能到 0.92 以上。原因出在表示本身,LightGCN 的向量把假账号放得离它抄的那个真用户很近,区分的信号被抹掉了。所以学出来的检测器旁边,一定要配一个直接看原始记录的相似度检查。
05 3.90
用户点了一条外链广告,是打开广告主的网页,还是直接跳进手机上已装好的广告主 App?把默认目的地一刀切地从网页换成 App,整体广告主价值(按价值加权的转化量)反而下降 1.05%,只在以购买为目标的广告上略有提升。也就是说,哪个目的地更好,要看每次点击的具体情况。这篇来自 Meta 的论文为每次点击单独选目的地,模型经历了三代。最后一代直接预测两个目的地哪个更好,训练标签来自一个更大的模型对两种目的地转化分数的差。线上 A/B 实验里,这一代比一律打开网页的做法,广告主价值高 0.54%。点击之后把用户带到哪里,是一个常被忽略的优化抓手。
06 3.75
给训好的推荐模型加后处理规则,比如换几个物品、调顺序,平均效果可能变好,却会伤到部分用户。常用的保险办法是保形风险控制:用一份留出数据定一个门槛,保证预期损失不超过预算。但它常常过于保守,把有用的改动也挡掉。这篇论文发现,问题出在校准时浪费了信息。已有的一种做法只记每个用户变差了没有,小小的变差和严重的变差一样算。论文的校准方式(ACRC)按损失的实际大小扣预算,轻微变差只占一点预算,所以同样的风险保证下能放行更多改动。在 6 个数据集上,只换这一步校准,净收益就高于已有校准方式。
07 3.75
风控和推荐系统常要决定放行还是拦下一个账号,账号既有收益也有损失。如果被拦掉的收益有上限,最优做法是按每单位预期损失对应多少收益来排,比值最低的先拦,直到收益预算用完。另一种常见标准按预期损失(或损失减收益)从大到小拦。同样的预算下,比值规则可能拦下按这种标准会放行的账号,论文把这记为可申诉的拦截。论文在训练排序分数时,对会引发这种拦截的账号加一项惩罚,惩罚越重,它越会被排到放行一侧。不同人群用不同的惩罚倍数,就能画出拦损能力和人群间申诉差距的取舍曲线。在推荐、保险、信贷等公开数据上,分人群定惩罚在部分人群里缩小了差距,但平均并不显著优于不分人群。
08 3.65
序列推荐常用大模型生成的物品向量帮冷门物品,但这种向量只反映内容像不像,看不出用户通常看完什么之后接着看它。冷门物品行为数据太少,没法单独修正向量。PACERec 先给每个物品算一个行为目标:找出用户在选中它之前刚看过的那些物品,把它们的内容向量加权平均,越近的权重越大。模型再学一套所有物品共用的修正规律:给定向量当前的位置,算出下一步该往哪个方向挪多少,一小步一小步把内容向量推向行为目标。这套规律主要靠行为目标可靠的热门物品来学。冷门物品只要有内容向量,就能直接套用。在三个数据集、三种序列模型上,冷门物品的 NDCG@10 比各设置下最强的基线平均高 33.31%。
09 3.55
让大模型 agent 自动改进推荐算法,难点在于一次实验的结果很难告诉它下一步该改什么。RecRSI 让每次改动都带上一个机制假设:改哪个部件、参照什么已有设计、为什么会有效、预期看到什么结果。实验做完后,结果连同当时的设计背景一起传给后续研究,用来决定接下来深挖、修改还是组合哪些机制。在多个初始推荐模型和数据集上,它让 NDCG@5 比初始算法平均相对提升 8.48%,也比各设置下最强的对手方法高 2.60%。这说明让每次实验留下能复用的结论,自动改算法才能越改越好。