02 4.10
推荐模型先写推理再生成商品,每次请求都要多等。LatentRec 训练时从用户历史起步,每轮按隐藏状态与一组可训练 token embedding 的相似度加权平均,送回同一 LLM。每步预测目标商品首个 SID token,损失更新 LoRA;部署时拿掉循环模块。Beauty 上,相比生成文字推理的微调基线,单请求延迟从10.80秒降到0.59秒,命中率相对提高5.0%。多步监督的收益留在 LoRA 里,线上直接生成商品。
03 4.10
给每件商品单独学一个 embedding,稀疏商品缺少共享信息;把商品固定分进 SID 组里,又会把组内差异挤掉。CAP-Mix 让每件商品按可学习权重混合一组其他商品也能用的向量,再加上自己的向量。训练完可以直接算成商品表,线上不用重新做这套混合。在相同 SID 和主干模型的对照中,HR@5 相对固定分组提高4.45%到14.90%。值得试的是让共享程度也能训练,而不必在完全独立和固定分组之间二选一。
04 4.10
用协同过滤模型给生成式推荐提供奖励,模型可能越来越把同几件商品排在前面。Beauty 的 SID 实验中,各用户首位推荐去重后的商品数,从 SFT 的1317件降到837件。论文把某件商品跨用户的平均奖励减掉,只保留它对当前用户高出平均的部分,数量回到1830件,但命中率也有回落。奖励里混有商品本身普遍得高分的成分;把它和个性化匹配分开,会改变推荐集中度,却不保证准确率不付代价。
05 4.10
Meta
整页推荐要考虑前面已经选了什么,逐个重跑完整模型却很贵。MIS 先把候选和展示位置编码一次,随后把候选、展示位置和按已选顺序组织的商品表示一起送入轻量打分头,选下一件商品,保留逐步选择而不反复跑完整编码。线上随机实验里,排序服务 CPU 用量降低9.73%,观看时长提高0.058%;预测服务 CPU 则增加1.39%。它把计算挪到了可复用的表示和较轻的逐步打分上,但两类服务的百分比不能直接相减来算总节省。
06 3.85
购物 query 写得更具体、再附一张图,推荐可能更符合这次要求,却更少照顾这个用户一贯的喜好。PMRecBench 把这两件事分开测:目标商品符合 query,且曾被用户打过高分;竞争商品也符合 query,但被用户打过低分或从未交互,再看目标能否胜出。Gemma 的多 agent 实验中,相比只给历史,加入图文 query 后,服装任务上这个胜出比例反而低了4.6个百分点。总体排序变好,仍可能掩盖历史偏好的影响变弱;多模态输入不等于个性化一定更好。
07 3.85
购物助手把需求和商品事实都说对了,给出的购买方案仍可能走不通。CARTBench 固定商品资料,沿真实对话的时间顺序检查回答。除需求与证据外,它还按案例规则检查建议能否执行:例如旅行案例要求先确认目的地和充电器参数,再买电源适配器。违反规则或遗漏必要说明都判失败。在通过全部可判定的需求与证据检查的回答中,按模型等权计算仍有13.0%未通过方案检查。评估购物助手时,核对商品事实不能代替对购买方案的检查。
08 3.75
同城推荐要生成的商品,必须属于这次请求真实可售的范围。只在生成后过滤,模型可能把计算花在买不到的商品上。这篇在请求开始时,把可售商品编成 SID 前缀索引,生成时只保留还能通向可售商品的候选分支;CPU 准备索引与 prefill 重叠。一次请求沿用同一份可售集合,途中不会自动追踪库存变化。它把可售约束接进了生成过程,适合供给因用户位置而变化的场景,但仍要维护请求集合与商品编码的一致性。
09 3.75
HHong Kong Polytechnic University
NTU
给生成式推荐补推理训练材料,解释写得顺不顺,不一定代表商品排得更好。MUSE 比较每段推理相对不加推理时,对目标商品全库名次的影响。训练时用最有帮助的推理作模仿目标,并要求它比最差推理有更高的生成概率。在 VideoGames 的同一模型对照里,HR@10 从随机选材料的0.0844提高到0.1020。目标商品只用于训练时筛选,线上不用教师再逐条评判。对推理数据的选择,推荐排序本身能提供比解释文风更直接的检查标准。
10 3.85
序列推荐把同一个计算块反复运行,中间某一步的推荐结果可能比最后一步更好。DESRec 在训练时,挑选与真实目标商品 embedding 余弦相似度最高的中间状态,再让最后状态学习它给所有商品的分数分布;线上仍运行固定步数并输出最后状态。在 CDs 的 SASRec 实验中,最佳步到末步的 NDCG 相对损失从31.79%缩小到21.52%。它减少了最后几步丢掉已有收益的情况,但没有让线上模型提前知道哪一步最好,也没有省去后续计算。