GateDiffInt: Gate-Mediated Controllable Diffusion and Multi-Intent LLM Distillation for User Behavior Modeling
GateDiffInt 将行为序列中的噪声—意图耦合显式化,利用可控前向扩散和双门控增强、去噪,再由大模型教师蒸馏长期、短期、潜在和转化四类结构化意图,轻量学生模型完成CVR预测。论文在公开与工业数据上均报告稳定收益,并在日活数亿的线上A/B测试中提升GMV、进入主流量部署。
INSIGHT对用户建模而言,先把行为清洗成可解释的多时间尺度意图,再做排序,比让一个序列编码器隐式吸收所有信号更容易控制。工程上可以采用大模型离线蒸馏、在线轻量融合的方式,把转化监督接入意图抽取;但需要重点监控扩散增强带来的延迟和教师标签漂移。