← 全部深度解读
📖 深度解读 · PERSONALIZATION

TAGR: Temporally Adaptive Generative Recommendation for Industrial Live-Streaming Advertising

Wencai Ye, Guangyi Liu, Chaoyi Wang, Wenbin Luo, Shengyu Wang, Mingjie Sun, Peng Wang, Quanming Yao, Wenjin Wu, Peng Jia... · Kuaishou / Tsinghua University · arXiv 2608.24034 · 发表 2026-08-26
14 分钟阅读时长 5265字 4.65综合分 第 1 名08-27 Personalization 日报
相关 5新颖 5实用 4证据 4时效 5
对 UGC/社区推荐而言,item 表示不能只在发布时固化:可将活动状态、近期文本和交互反馈编入可版本化的语义 ID,并把长短期兴趣拆开缓存。工程上优先落地离线刷新加在线轻量重排,避免把大模型推理放在每次请求路径;使用 on-policy 数据时要监控训练漂移与反馈闭环。

TAGR针对的是直播电商广告里一个比普通推荐更剧烈的非平稳问题:推荐目标不是一个静态商品或固定直播间,而是某个时刻的直播场景与正在促销的商品集合。论文指出,主播当前讲解内容、价格、库存、促销组合都可能在几分钟内变化;用户也可能从随便浏览快速转向商品探索、加购和购买。因此,持久的直播间ID、商品ID或静态语义ID都不足以描述真正的serving target。传统生成式推荐把item语义ID视作相对稳定的词表,面对直播广告会出现目标语义过时、相同商品在不同场景下无法区分、更新后生成空间与训练标签不一致等问题。

作者将现有方法的失败拆成三个相互耦合的层面。第一,token侧的静态SID无法跟踪直播场景和促销商品的演化;第二,用户建模只按单一时间尺度串接行为,会把瞬时兴趣与长期偏好混在一起,而且曝光、进房、点赞、加购、下单的意图强度不同;第三,偏好优化若使用滞后策略产生的候选,奖励分布会落后于当前策略,若持续在线强化学习,又容易与监督式next-token prediction发生梯度干扰。这个问题之所以重要,是因为广告系统必须在毫秒级响应中同时处理新鲜内容、用户相关性和商业价值,而直播广告又直接把这种矛盾放大。论文不是只提出一个离线模型,而是把动态目标构造、动态用户意图和当前策略反馈闭环放进同一个生成式召回系统。

论文给出的工业规模证据很强:数据来自拥有超过4亿用户、数十万直播广告的电商直播广告平台;完整系统在生产A/B中让直播间进入率提升8.5%、购物车点击率提升7.4%,广告收入相对DLRM基线提升16.1%。

2. 方法详解

TAGR由LSID、IAG和IOPO三层组成。第一层是Live Semantic-Collaborative ID。作者分别用场景编码器、商品编码器和用户编码器把主播长期带货风格、实时直播片段、场景特征、商品标题与caption、属性、订单状态、用户兴趣和画像投到共享空间。三个编码器是带ReLU的MLP;训练时用User-to-Scene、User-to-Product和Scene-to-Product三个对比对齐目标,损失为L_align=L_U2S+L_U2P+L_S2P。之后以z_live(t)=norm(αs(t)+βp(t))融合场景和商品,默认α=0.8、β=0.2。重要的约束是用户信息只参与对齐,不直接进入请求相关的token分配,所以同一个广告的LSID仍是request-independent,避免为每个用户生成不同标签。z_live再通过RQ-KMeans量化成层级token序列,并在最后一级加入streamer-aware hash bucket降低碰撞。默认codebook为[256,256,256],InfoNCE温度为0.07;当场景或促销商品变化时,活动广告每1到5分钟重编码,线上实际每分钟刷新一次,再在秒级写入LSID到LiveID双向索引。

第二层是Intent-Aware Generation。用户输入分为三部分:以直播间进入为主的高密度行为序列、点赞/商品点击/加购/下单等独立辅助通道,以及长期画像。主要进入序列长度L=300,用stride集合{1,2,10}切成细粒度、局部探索和长程浏览三种尺度。对于stride s,作者把连续s个行为映射并拼接位置编码,形成T_entry,j^(s),再把三种尺度与独立行为通道、profile token拼接,经LayerNorm得到M_u(t)。这种拆分保留了行为语义:进房更密集,订单更稀疏但意图证据更强,长期画像则提供稳定先验。

IAG的解码器是6层Lazy Transformer Decoder,隐藏维512、4个attention heads、FFN维2048、ReLU、dropout 0.1。给定M_u(t)和已生成前缀,模型按Pθ(y|M_u)=∏_l Pθ(s_l|s_<l,M_u)自回归生成LSID。作者没有把所有曝光样本等权处理,而是提出Multi-Factor Weighted NTP。每个训练样本权重为w(x)=w_feedback(x)·w_user(x)·w_eCPM(x):反馈深度衡量目标是否真正表达用户意图,用户价值层和归一化eCPM决定业务优先级。层级token还使用γ=[1.0,0.8,0.6],样本权重裁剪到5.0。注意这些权重不是校准后的点击概率,只是控制监督强度;未来反馈只用于训练时加权,serving时的M_u(t)不依赖未来行为。

第三层是Intermittent On-Policy Preference Optimization。先用在线日志联合训练NTP和reward model得到基础策略,然后当前策略周期性生成大小G=20的候选组,每T=200步做短促的GRPO更新,中间插入监督NTP维护。BA-GRPO以生成LSID与用户下一次真实交互的token embedding余弦相似度作为行为锚点,r_ba=(1+cos(e_hat,e_star))/2,再在候选组内做均值方差归一化、优势裁剪[-2.5,2.5]。VA-GRPO则由reward model预测post-exposure进房概率和归一化eCPM,r_va=r_post+β_va·r_eCPM,β_va=0.2。总GRPO损失为λ_ba L_ba+λ_va L_va,默认λ_ba=0.1、λ_va=1.0;整体目标是L_NTP+I_RL·L_GRPO。这样当前策略得到新鲜候选,NTP维护又防止RL持续覆盖行为分布。

3. 核心技术贡献

第一,LSID把直播广告从静态item提升为时间索引的场景—商品目标。它不是简单把实时特征塞给ranker,而是重新构造生成器的输出词表,使新场景和商品组合能够进入生成式召回,同时用固定层级词表保持训练和beam search稳定。相较固定SID,LSID单独接入后收入提升从OneRec基线的6.1%提高到9.9%。

第二,MSI-Encoding和MF-NTP把行为时间尺度与监督可信度分开。stride=1/2/10同时保留短期变化、局部探索和长程兴趣;feedback、user value、eCPM分别表达意图证据和商业价值,避免用一个混合标签替代多个信号。消融中LRE HR@128由单尺度0.7024提升到三尺度0.7276,完整MF-NTP进一步到0.7468。

第三,IOPO解决了当前策略反馈新鲜度与训练稳定性的冲突。BA-GRPO防止商业奖励把结果推离真实用户行为,VA-GRPO再把商业价值加入同一候选组;间歇式RL与NTP交错,取代持续更新。它既比off-policy候选更贴近当前分布,也比continuous GRPO更少震荡,且训练成本只有持续更新的三分之一。

4. 实验结果分析

实验使用真实电商直播广告平台的billion-scale日志,按时间切5天训练、2天验证、2天测试,用户输入最多使用最近30天行为。数据覆盖超过4亿用户和数十万活动广告,目标包含曝光后的进房、购物车点击和购买。离线指标是全候选空间中生成Top-K LSID命中下一次目标的HR@64/128;线上则在相同下游过滤与精排栈上做A/B,观察进房率、购物车点击率和收入。

方法LRE HR@128SCC HR@128LRE率提升SCC率提升收入提升
OneRec v20.65680.6216+2.1%+1.8%+6.1%
TAGR + LSID0.70240.6551+4.2%+3.6%+9.9%
+ MSI-Encoding0.72760.6709+5.1%+4.5%+11.2%
+ MF-NTP0.74680.6836+6.7%+6.0%+13.5%
+ BA-GRPO0.76040.6901+7.5%+6.6%+14.7%
+ VA-GRPO,完整TAGR0.77230.6965+8.5%+7.4%+16.1%

结果呈现清晰的加法式收益。LSID首先解决目标表示过时;三尺度意图编码再带来0.0252的LRE HR@128增量;用意图证据、用户价值和eCPM加权又带来0.0192;行为与价值两类GRPO分别继续提高到0.7604和0.7723。线上收入提升明显高于行为率提升,说明VA-GRPO不仅找到了更会互动的广告,也更好地暴露了高商业价值库存。

细粒度消融进一步说明设计不是靠单个大模块偶然取胜。MSI的stride从{1}扩展到{1,2}、再到{1,2,10}时,LRE HR@128为0.7024、0.7141、0.7276,SCC HR@128为0.6551、0.6638、0.6709。MF-NTP从uniform NTP开始,依次加入feedback、user、eCPM后,LRE HR@128为0.7276、0.7352、0.7405、0.7468,SCC为0.6709、0.6757、0.6789、0.6836,说明意图证据和业务价值有互补作用。

IOPO的对照最能体现工程价值:off-policy GRPO的NTP loss/reward/LRE HR@128为1.79/0.675/0.6982;continuous GRPO为1.68/0.864/0.7469,但训练稳定性仅moderate;intermittent GRPO为1.53/0.913/0.7723,稳定性high。训练曲线显示20K warmup后开启RL,continuous版本loss在约1.5到2.0之间震荡,IOPO通过RL burst和NTP maintenance把loss稳定在约1.53。codebook消融也有反直觉点:较小[128,128,128]会过压缩并让收入下降1.4%,较大[512,512,512]只多带来0.12%收入却增加解码成本,因此[256,256,256]是效率折中。

5. 局限与未来方向

论文没有设置单独的Limitations章节,结论也主要强调三层适配的有效性;因此下面首先区分作者明确披露的边界与从实验设置可以看出的空白。作者把系统部署在单一大规模电商直播广告平台,实验虽有时间切分和生产A/B,但没有跨平台、跨品类或跨国家验证。论文也使用生产精排分数作为eCPM标签,并把post-exposure行为作为反馈,这些信号适合广告业务,却不等于一般社区推荐中的满意度或长期留存。IOPO依赖当前策略生成候选、reward model和在线训练平台,作者披露其通过间歇更新来降低成本,但没有在正文给出完整的训练资源、样本吞吐或不同流量规模下的成本曲线。

另外,LSID每分钟刷新,意味着历史行为对应的旧token与新token之间需要稳定映射,论文主要从固定层级词表和在线索引角度说明可行性,没有给出长周期版本迁移、token碰撞率、异常内容或场景突变的专门压力测试。BA-GRPO的行为锚点来自下一次真实交互,仍可能受到曝光偏差影响;VA-GRPO又使用既有精排信号,可能把系统原有偏好继续放大。作者未报告公平性、广告主分布、用户分群收益和极端库存质量。未来若迁移到社区UGC,应补充冷启动、长尾曝光、内容安全和用户长期价值的独立评估。

6. 工业实践意义

对搜索/推荐团队最可复用的不是“直接把生成式推荐上线”,而是三层适配的拆解方式。对于社区短文本,首先可以把帖子标题、正文、图片、作者状态和近期评论摘要组成可刷新content ID;ID刷新应由内容版本触发,不必每次请求重新编码。然后将用户最近搜索、点击、收藏、停留和关注分别维护成行为通道,再用短窗口、会话窗口和长期画像让模型自主选择兴趣跨度。这里可以借鉴TAGR的经验:密集的浅行为适合覆盖,稀疏的深行为适合提高监督权重,不应混成同一个正样本标签。

训练层面建议将相关性和商业/生态价值拆开。社区场景可以把nDCG、有效点击、停留、关注、负反馈和作者生态分成不同reward头,先用行为相似度把候选锚在用户真实兴趣上,再用价值头优化长期目标。IOPO的间歇式策略值得优先尝试:例如每若干轮离线/流式监督更新后执行小批量当前策略偏好更新,且保留NTP维护步;这样比持续RL更容易回滚和定位漂移。sample weight要裁剪,并监控高价值用户、热门作者和长尾内容的权重分布。

部署时,TAGR的路径是可落地的:6层、512维轻量decoder,beam width 256,在L20上每GPU超过2500 QPS,端到端召回延迟低于100ms;实时LSID构造与索引写入在秒级完成。社区团队可以先把生成器放在召回或粗排层,输出有限候选,再交给现有精排与安全过滤,避免让生成模型承担所有排序责任。需要建设三类监控:一是token版本和碰撞监控,二是LSID生成覆盖、长尾召回和重复率,三是反馈延迟、策略版本差异、NTP loss震荡与reward漂移。对UGC尤其要加内容安全、作者公平和用户负反馈约束,防止VA-GRPO只追逐短期点击。

← 全部深度解读 出现于报告:2026-08-27 · Personalization #1 (4.65) 原文 ↗