Deep Situation-Aware Interaction Network for Click-Through Rate Prediction
该论文针对电商平台 CTR 预估中用户行为序列建模问题,提出了"情境"(situation) 的概念,将行为类型、时间、地点等交互上下文信息整合到用户行为表征中。
查找解读请用站内搜索。
该论文针对电商平台 CTR 预估中用户行为序列建模问题,提出了"情境"(situation) 的概念,将行为类型、时间、地点等交互上下文信息整合到用户行为表征中。
Meta 提出的 SOLARIS 框架借鉴 LLM 推测解码的思想,解决推荐系统基础模型推理延迟过高无法在线服务的难题。核心思路是预测未来可能出现的 user-item 交互对,提前异步计算基础模型的 embedding 表征,将高成本推理与延迟敏感的在线服务路径解耦。
该论文针对生成式推荐(GR)中 Semantic ID 解码与判别式模型之间的表达力差距问题,提出 Chain-of-Attribute(CoA)机制。通过在 SID 序列前插入结构化属性 token(类目、卖家、品牌),恢复了判别式方法的 user-item 特征交叉能力。
针对短视频搜索排序中哈希 ID(HID)模型在长尾 item 上泛化能力差的问题,提出 SID-Coord 框架,将可训练的离散 Semantic ID(SID)直接嵌入 ID-based 排序模型。
电商用户在 App 内的跨场景行为形成「全域动线」(moveline),该文提出 All-domain Moveline Evolution Network,将用户从搜索→推荐→详情页→购物车的场景级行为链路建模为动线演化序列。
生成式列表重排序虽能利用全局上下文提升检索效果,但存在严重的位置偏差问题。本文提出 CapCal 框架,通过内容无关的占位符估计偏差分布,再利用熵自适应对比机制修正输出 logit,实现无需训练的位置偏差消除。
针对工业推荐系统中用户历史序列建模的信息瓶颈问题,提出 Instance-As-Token (IAT) 两阶段压缩框架。第一阶段将每次交互的全部特征(约6000维)压缩为64维统一实例 embedding,支持时序和用户两种压缩模式;第二阶段通过标准序列建模学习长程偏好模式。
针对推荐系统多任务融合中'一刀切'权重无法适配异质用户群体的问题,提出 GRADE 个性化多任务融合框架。通过组相对强化学习将用户分组并为各组学习个性化融合策略,结合自适应 Dirichlet 探索平衡探索与利用。
该论文解决了工业搜索系统中检索模型训练信号不一致的问题。现有系统通常使用用户行为信号(如点击)来训练 bi-encoder 检索器,但行为信号是语义相关性的不完美代理——用户可能因流行度、促销或价格等非相关因素而点击商品。
WeWrite 提出了个性化需求感知的查询改写框架,解决视频搜索中用户意图理解的三个关键问题:何时改写(When to Write)、如何改写(How to Write)、以及如何利用历史行为(Write with History)。
针对传统 DLRM 在用户行为序列建模上的不足,提出 GRAB——一种受 LLM 启发的 sequence-first CTR 预估范式。
发现工业 CTR 模型中大部分学到的连接权重趋向于零、仅少数权重显著,揭示了稠密架构与稀疏推荐数据之间的结构性失配。
针对自回归生成式推荐模型的顺序依赖和局部最优问题,提出首个基于扩散模型的生成式推荐框架 DiffGRM。核心创新在于用掩码离散扩散模型替代自回归解码器,实现对 Semantic ID 的双向上下文建模和任意顺序并行生成。
本文研究了 Qwen3-Embedding 模型在对话式短查询检索场景下的鲁棒性问题。在不使用 query prompting 的情况下,结构化对话噪声会侵入 top-k 结果,导致语义无关内容排名异常升高。
本文系统研究了推荐系统中训练数据量与离线推荐性能之间的关系。作者使用 LensKit 和 RecBole 两大工具包,在 11 个超过 700 万交互的公开数据集上评估了 10 种算法组合,训练数据量从 10 万扩展到 1 亿交互。
本文提出 Next-Scale Generative Reranking (NSGR),一种基于树结构的生成式重排方法,解决多阶段推荐系统中重排环节的组合空间复杂度问题。该方法通过多尺度生成策略同时建模局部与全局排列视角,并引入树状生成架构实现从粗粒度到细粒度的渐进式列表生成。
本文系统介绍了 Snapchat 在推荐系统中部署 Semantic IDs (SIDs) 的工业实践。SID 是一种有序编码列表,通过残差量化等分词器从语义表征中提取,相比传统原子 ID 具有更小的基数和更好的语义聚类特性。
该论文提出 DyKnow-RAG 框架,解决大语言模型在电商搜索相关性判断中如何动态利用外部检索知识的问题。
Meta 公开了其广告排序系统 Wukong Turbo 的核心架构升级:将排序模型扩展至 LLM 级别(万亿参数)的同时,通过推理效率优化使计算成本从线性降为亚线性。
本文首次系统探索了扩散语言模型(dLLMs)在文档重排序中的应用,提出 DiffuRank 框架,实现了三种重排序策略:(1) pointwise 方法利用 dLLMs 估计 query-document 对的相关性分数;(2) 基于 logit 的 listwise 方法联合评估多文档相关性并直接从模型 logit 导出排序列表;(3) 基于排列的 listwise 方法。
针对工业级生成式推荐在多业务场景下面临的「跷跷板效应」(NTP 无法捕捉跨业务行为模式)和「表征混淆」(统一 SID 空间混淆不同业务语义)两大关键问题,提出 MBGR 框架。
系统性研究利用 LLM 生成的用户偏好数据对 contextual bandits 进行 warm-start 的效果与边界。实验发现:在偏好对齐的场景中,warm-start 在数据损坏率达 30% 时仍有效,40% 时优势消失,50% 以上时反而损害性能。
Meta 发布 KernelEvolve,一个自主生成和优化底层硬件 kernel 的 AI agent,专门针对排序模型(如广告推荐模型 Andromeda)的推理和训练加速。
该论文提出 FGR-ColBERT,在 ColBERT 检索模型中集成从 LLM 蒸馏的细粒度相关性信号,使检索阶段即可识别文档中的具体相关片段,无需额外 LLM 后处理。
本文提出 UniMixer,一种统一的推荐系统 scaling 架构。当前推荐模型的三大主流 scaling 架构(attention-based、TokenMixer-based、factorization-machine-based)在设计哲学和结构上存在根本差异。
该论文解决生成式推荐模型中强化学习微调的两大核心难题:低概率高回报分支被过早剪枝(探索不足)和共享高概率前缀的轨迹回报高度相关(优势压缩)。
本文研究跨域知识蒸馏(KD)在推荐系统中的应用,将 YouTube 大规模视频推荐平台(100倍数据量)的排序知识迁移至 YouTube Music 音乐推荐场景。核心挑战在于源域与目标域的特征空间、用户界面和预测任务存在显著差异。
针对 LLM 购物代理中用户历史记录过长、噪声大、与当前查询相关性低等问题,提出 MemRerank 偏好记忆框架。该方法将用户购买历史蒸馏为简洁的、与查询无关的偏好信号,用于个性化商品重排序。
针对推荐排序中离线指标与线上效果系统性偏差的问题,提出 Sortify——首个全自主 LLM 驱动的排序优化 Agent。
将 LLM 的生成式预训练范式拓展到用户行为建模领域,提出 PANTHER 混合生成-判别框架。