Joint Optimization of Relevance and Engagement in Multi-Task Ranking for E-Commerce with Efficient LLM Supervision
电商搜索只学点击和转化,容易把热门但不对题的商品排上来。DoorDash 离线用小号 LLM 给海量查询-商品对打三级相关性标签,==在排序模型里加一个相关性头并计入最终打分==,线上不调用 LLM。
查找解读请用站内搜索。
电商搜索只学点击和转化,容易把热门但不对题的商品排上来。DoorDash 离线用小号 LLM 给海量查询-商品对打三级相关性标签,==在排序模型里加一个相关性头并计入最终打分==,线上不调用 LLM。
论文针对工业级搜索与推荐中的内容冷启动,把探索与去偏从单点策略扩展到召回、排序等完整漏斗,并同时适配搜索和推荐场景。Pinterest 已连续两年迭代并部署该系统,通过可扩展评测框架连接短期实验与长期影响,显著改善新内容探索、整体互动和内容生态健康;摘要未披露具体提升数值。
论文解决长行为序列虽能提升 CTR、却无法满足实时竞价延迟的问题:离线 Transformer 异步编码全量跨场景历史并缓存,线上轻量模型只融合缓存向量、近期行为和请求上下文。
做十亿级图召回,常被在线图服务和在线 KNN 的成本卡住。Meta 的做法是==离线算好邻居,聚类索引和向量一起训==,线上找相似用户只需读一个簇的最新物品队列。
论文聚焦带网页检索的 LLM 推荐结果可被源页面内容操纵的问题,提出 SIREN:借鉴 PAIR 越狱循环,由攻击者—裁判自动迭代 23 类内容投毒策略,并用固定来源、固定顺序的自定义 RAG 重放隔离检索波动。
针对会话起始词推荐依赖“曝光—点击”闭环、热门泛化查询不断自我强化的问题,PA-Bridge 将用户主动输入的开放查询引入双塔检索,以对抗式分布对齐消除主动 query 与候选 starter 的域偏移,并用 RQ-VAE 离散语义支持流行度去偏。
针对本地生活推荐中地理曝光受限与长尾 ID 表征退化,ReST 先用品牌、类目等属性语义预热 ID,再通过空间约束难负样本和动态表征对齐增强长尾物品。
复购推荐多按“第几次购物”排历史,真实的购买间隔被抹掉。沃尔玛的 CASE ==按“哪天买的”记录每个商品的历史==,用共享的多尺度卷积学出复购节奏,再让候选商品互相参考,分数可以每天刷新。
OxygenREC 将近线 LLM 的“慢思考”意图推理与实时编码器—解码器的“快生成”拆开,并用 Q2I 对齐、指令引导历史检索及 SA-GCPO 统一六个电商场景。
在图索引里加一层随机投影:PAG 先用投影估计邻居能否进入候选集,==估计能进的才算精确距离==,建图时用同一套统计量补入边。
面向短视频多频道 I2I 召回中触发器价值难归因、频道竞争难协调的问题,CAPTS 用 VAM 按下游观看反馈回传触发器价值,再由 CATR 联合分配触发器与频道。快手线上 A/B 显示,总应用时长提升 0.713%,设备日均时长提升 0.586%。
UniRank 把序列建模与特征交互统一到同一基准,覆盖 15 种排序模型、5 个公开数据集,最大数据超过 7 亿样本、最长序列超过 10 万。其分布式、模型并行与高效注意力优化在 4 张 GPU 上带来 14.24 倍加速,并降低 69.2% 单卡峰值显存。
Meta 将推荐检索中的索引、过滤、重排和多任务打分统一为一个 PyTorch 模型,把索引本身变成模型张量,并在不足 100 毫秒内完成全链路。面向 8000 万物品的评测中,SilverTorch 吞吐提升 23.7 倍,估算算力成本效率提升 20.9 倍。
生成式推荐把骨干做大,收益并不均匀。Netflix 把骨干从 2M 放大到 1B,==按任务拟合带上限的规模曲线==,判断哪类任务还值得加参数;再用多目标预测对齐缓存服务,用语义塔给新片打分。
GloRank 用稳定的全局 Semantic ID 取代随样本变化的局部位置索引,把 Listwise 重排改成受前缀树约束的 Token 生成。
在 Semantic ID 上做生成式推荐,先写推理再出 SID 的显式 CoT 训练反而不如普通 SFT。论文拆开测了这条流水线,提出 PauseRec:==在用户历史后插入几个可训练的停顿 token==,只用 SID 预测损失训练,不写推理文字。
论文针对留存信号稀疏、延迟且难归因的问题,把深层会话、负反馈和场景采纳转成可挂接任意排序器的下游奖励头。Pinterest 以 1.5% 流量运行 3–4 周实验:深层会话奖励令核心/非核心用户成功会话提升 0.24%/0.48%,负奖励使总时长提升 0.46%/0.24%。
论文把是否触发购物召回器建模为个性化因果决策,以随机流量、双重稳健伪结果、DCNv2 与 12 专家 MMoE 联合学习多事件结果和 uplift。线上在不增加端到端时延的情况下最多减少 85% 触发,同时总会话提升 0.26%、Pin 收藏提升 1.10%。
淘宝搜索的 TSGR 在 SID 第 3 层按点击给商品排座次,并按 query 准备多套排序,==让卖得好又贴合 query 的商品更容易被生成==,同一模型再接打分模块做重排。
快手的 UAME 让融合排序模型除了打分再输出一个方差,表示各行为目标对这个视频的意见有多不一致,==训练时给冲突大的视频对加权==,线上只用均值打分、推理成本不变。
Meta 的 WHALE 在每层同时跑 Wukong 特征交叉和 HSTU 长序列,==让交叉表示用注意力从完整历史里挑证据==。32 GFLOPs 下 NE 增益 1.39%,同算力 HSTU 0.73%;把注意力换成平均池化回退 0.23%,几乎和浅层拼接一样。
GenRec 面向京东 App 大规模推荐中的翻页输出不一致、长行为序列成本与偏好对齐难题,在单一解码器中引入页级下一词预测、非对称 Token Merger 和 GRPO-SR。
RecGPT-V3 面向淘宝推荐中重复处理全量历史、文本标签到商品的信息损失和显式推理延迟三类瓶颈,引入持续演化的 Memory Hub、文本与 Semantic ID 混合推理及潜在意图 token。
RECAP 把短视频用户画像从开放环摘要改为由历史推荐反馈驱动的离线闭环优化:结构化有界记忆负责流式更新,LLM 过滤标签一致行为对,双塔评估器的匹配分作为 GRPO 奖励。
论文针对生成式推荐中 Semantic ID 与协同目标错位的问题,提出 ReSID:用字段感知掩码自编码器学习推荐原生表征,再以全局对齐正交量化降低前缀条件不确定性。
腾讯把会调协同过滤工具、会自我检查的多 agent 老师蒸馏成一个 8B 学生,==把协同邻居写成文字证据再交给 LLM==。Goodreads 均分学生 78.4、老师 66.2,单次推理从 16 卡 461 秒降到单卡 89 秒;去掉反思掉 6.5 点,最多。
针对搜索结果页同时混排文本、图片、视频和大模型答案时整页标注成本过高的问题,论文提出 SMAR:先训练各模态排序器,再筛选预算受控的跨模态页面做少量标注,并蒸馏模态内偏好。
Amazon Music 与阿姆斯特丹大学提出用 PCE 按分位数比较每个用户历史和推荐的热门度分布,再用 SPREE 在推理时沿“热门方向”调整 SASRec 内部表示,==方向和力度按每个用户估出的偏差决定==,不用重训。
论文针对搜索 Agent 多轮推理中间查询质量差、一次偏航拖垮整条轨迹的问题,提出双层信用评估、低质查询定点改写与 SFT→DPO→GRPO 三阶段训练。
针对工业 CTR 排序把异构特征一律 token 化后出现的信号稀释问题,TmallGS 组合分布校准投影、字段自适应门控 Transformer、FiLM 晚融合、偏差解耦与渐进训练。