02 4.10
生成式检索是在生成文档的 SID,分词器把误差落在哪里,会直接限制还能召回什么。常见 SID 只在文档 embedding 上做残差量化,并不检查量化之后,查询还能不能找到相关文档。CARE-SID 先在检索对齐的空间里做对比学习再量化,编码时仍然只看文档自己的 embedding。
03 4.20
用大模型在电商候选里挑商品时,决定本应只看和用户 query 是否相关,但描述写得长短也可能悄悄加分。相关标注又很少,很难直接测这种结构偏差。这项工作把同一件商品的描述交给随机指定的改写模型,再乱序送给推荐模型:若选择真对改写不敏感,每个改写器被选中的概率应当一样,无需相关性标签。
04 3.85
给生成式推荐加推理时,现有方法多用最终推荐效果给整段轨迹打奖励,既量不出每句推理到底帮没帮上目标 SID,组内不同轨迹的奖励也往往分不太开。这项工作用预测增益来衡量:看每一句推理让目标 SID 的对数似然变了多少,再据此优化推理;定制的因果注意力不必为算奖励再把推荐完整解码一遍。另外还加一项辅助任务,把增益接近零的轨迹在预测时再加强。
05 3.75
把强化学习直接套到生成式推荐上,比例型目标经常训不稳:截断会让一部分样本梯度消失,负优势更新又可能随重要性比例放大,被少量负例带着跑。GBPO 用切断梯度的置信度归一化,让正负更新都有界,并且在策略已经很有把握时把更新收掉。在亚马逊三个数据集上,相对监督微调的 TIGER,HR@10 提高 0.71 到 2.21 个百分点。在 Steam 上,只有它在全部重复实验里既没有性能崩溃,也没有出现非有限损失;换成连续奖励或另一种教师模型时,对照方法的十五次运行全部触发了崩溃准则。对要给 SID 生成模型做强化学习后训练的人来说,先把更新几何做稳,比把比例截得更狠更要紧。
06 3.85
单凭回答里有没有点到社区提到的那个商品,判断不了建议好不好:合适的商品可能有好几件,被记录下来的回答本身也可能是差建议。把社区列出的备选和模型自己抽到的车放在一起、并打乱来源与顺序后,六个模型在合格分歧里有 1.9% 到 6.5% 反而更喜欢那个备选,两种展示顺序下结果一致。这项工作把建议拆成用户需求、模型自行添加的假设、候选生成、过滤和最终选择,列出 19 种失败方式及所需证据,只需看请求和写成的回答,不必访问模型内部计算。点到参考商品和真会选中它不是一回事,答案抽取和候选列表怎么构造也会改变结果。要改进产品建议,得先分清是候选没生成出来,还是生成了却选错了。