PushDualGen: Enabling LLMs to Generate Semantic IDs with Interpretable Copy for Industrial Push Recommendation
针对推送推荐中长行为序列难压缩、生成式模型难解释且在线成本高的问题,PushDualGen 用并行 Semantic ID 压缩历史,先生成 SID,再按需复制文本解释,并把 Top-20 SID 与用户特征融合做 ANN 召回。模型以约 0.72B token 做 SID 适配、每日增量训练约 3.6B token;在 1.5 亿用户、14 天 A/B 中,有效播放率从 64.46% 升至 69.94%(+8.50%),不喜欢率下降 37.70%。
INSIGHT它把可解释性放在可跳过的复制头,把主路径留给轻量 SID 生成,兼顾推荐质量、吞吐和审计。实现上可先用 M=8、K=512 的离散语义码压缩长历史,再将 Top-N 生成结果回灌用户向量;论文的约 100K QPS 部署说明这种“生成偏好、向量召回”的混合架构比同步 CoT 更适合线上。