Long-History User Transformers for Real-Time Ad Ranking
论文解决长行为序列虽能提升 CTR、却无法满足实时竞价延迟的问题:离线 Transformer 异步编码全量跨场景历史并缓存,线上轻量模型只融合缓存向量、近期行为和请求上下文。该拆分方案恢复完整在线长序列模型 72%–80% 的效果,搜索广告与广告网络排序指标分别提升 2.77% 和 2.10%,收入提升 2.26% 和 0.43%,且不增加服务延迟。
INSIGHT长序列价值与在线成本可以通过“离线重编码、线上轻匹配”解耦,关键是把全历史表征做成可容忍一定陈旧度的特征服务。社区搜索可异步编码用户跨帖子、评论、作者和主题的长期兴趣,线上只拼接最近会话与 query,从而在严格延迟预算内改善个性化排序。