GateDiffInt研究工业推荐CVR排序里的Noise–Intent Coupling。传统特征交互模型和序列模型都能读取用户行为，却通常把意图隐含在参数或最后的隐藏状态里，难以明确区分长期生活方式、短期事件、反复浏览形成的潜在意图和当前购买意图。行为噪声与真实意图也不是独立的：浅层曝光、快速划过等弱行为会稀释强信号，而没有结构化意图先验时，去噪器不知道哪些弱信号应该保留。作者把这两个失败模式分别称为noise-induced intent distortion和intent-agnostic denoising failure，并认为二者会相互强化。

现有扩散推荐多服务于Top-K生成，LLM推荐多服务于生成或解释，二者没有自然接入候选条件下的点式CVR排名。GateDiffInt用最终转化信号共同指导序列去噪和意图抽取，再把大模型语义能力蒸馏到小学生模型，目标是在线可部署而不直接调用大模型。

2. 方法详解

输入是用户最近L条按时间排序的交互，每条包含物品、动作类型和距当前时刻的时间间隔；给定目标物品，模型预测购买概率，主任务使用二元交叉熵。整体数据流为行为序列到增强序列表示和位置重要性，再到四个结构化意图，最后与候选物品融合预测。系统由GMCD、MILD和Intent-aware Conversion Prediction三块组成，训练分阶段进行。

GMCD是Gate-Mediated Controllable Diffusion。第一块CACE将物品和时间嵌入线性投影后，与可学习fusion token拼接，使用只在每个位置内部工作的共享Transformer完成特征融合。对每个非padding位置独立采样item mask和action mask，浅层pv等弱行为的action mask概率更高，buy等强行为概率更低；物品被替换成MASK token后重新编码，得到clean view X1和masked view。训练时每个序列采样2个masked view，推理不做mask。

第二块MFCD在CACE隐空间运行DDPM式条件扩散。不同掩码状态使用不同噪声强度，双重掩码位置受到更强噪声；共享denoising network预测原始X1，损失是重建均方误差。两个masked view的池化去噪表示还用InfoNCE拉近同一序列的不同增强、拉远batch内其他用户。推理从中间步开始，用cosine schedule和确定性的DDIM反向采样，eta=0，避免随机采样造成线上结果抖动。

第三块DDGH用两个结构相同但参数独立的门融合原始和去噪表示。融合门按位置计算，E_final等于g_f乘去噪表示加上1减g_f乘原始表示；重要性门不参与融合，只输出给大模型教师的可解释位置权重。融合门的伪标签是归一化去噪误差的反值，重要性门的伪标签还混合行为可靠性先验，两个门都用BCE训练。GMCD总损失由denoise、contrastive、fusion和importance四项构成，让模型保留去噪器无法重建的弱信号，也能压制明显噪声。

MILD是Multi-Intent LLM Distillation。用户目标拆为四类：长期意图来自身份和生活方式，短期意图来自事件或状态变化，潜在意图来自重复浏览和比较但尚未转化，转化意图表示当前上下文下最可能的购买决策。教师使用冻结的Gemini 3.5 Flash API，根据行为序列和重要性提示生成四类意图文本。学生使用冻结的Qwen3-1.7B骨干，前置4个可学习intent token；每个token通过独立LoRA路径只读取行为位置，四个intent token彼此不可见，行为token使用因果mask且不能读取intent token。教师文本用Qwen3-Embedding-8B编码，学生向量经projection head映射后用带有效监督mask的余弦距离对齐。

下游预测模块用四个意图向量作query，把E_final和原始行为embedding作为key/value做多头cross-attention；得到上下文化意图后，与候选物品特征一起经过self-attention和MLP输出CVR。训练先分别预训练GMCD和MILD，再挂接CVR头联合微调。联合阶段冻结GMCD主体，只在融合Transformer中注入LoRA；MILD保留每个意图的Multi-LoRA，并增加教师锚定余弦正则，避免联合CVR训练破坏意图语义空间。

实现配置为Adam学习率5乘10的负4次方，最多15个epoch，early stopping patience 4；公共数据GateDiffInt batch 96，生产batch 64。Taobao最大序列128、平均约101；Amazon-Electronics最大32、平均约9；生产序列最大1024。扩散前向时间步从1到1000均匀采样，反向从700开始DDIM；默认attention维度256、4个头。GMCD和MILD每周更新，CVR模型与LoRA每天联合微调。

3. 核心技术贡献

第一，扩散去噪由行为可靠性控制：弱行为加大mask与噪声，强行为保留更多信息，反向采样再用门决定原始与重建表示比例。第二，MILD让LLM生成结构化监督而不是直接在线推荐，四个intent token与四条LoRA路径把语义压缩成轻量学生，解决大模型成本和延迟。

第三，GMCD与MILD由最终CVR监督信号连接，扩散模块改善序列、意图模块负责语义拆分，二者共同服务候选转化预测。第四，双门、四意图、多LoRA和teacher anchoring均有消融，说明它们是在处理噪声、语义与转化监督的互补关系，而不是简单堆模块。

4. 实验结果分析

公共实验使用Taobao和Amazon-Electronics，指标是AUC、GAUC和LogLoss；基线包括DIN、DIEN、DSIN、BST、DMIN和HSTU。完整模型在Taobao达到AUC 0.8515、GAUC 0.8275、LogLoss 0.4836，在Amazon达到AUC 0.8016、GAUC 0.7792、LogLoss 0.5414。HSTU在两套数据分别为0.8304/0.8075/0.5064和0.7829/0.7681/0.5693，完整模型在全部指标上更好，pairwise t-test的p值小于0.01。

生产数据上，GateDiffInt相对HSTU的AUC提升3.00%、GAUC提升1.82%、LogLoss改善2.81%，最终分数为AUC 0.8486、GAUC 0.7612、LogLoss 0.4974；HSTU为0.8239、0.7476、0.5118。线上在主平台首页feed做14天A/B，GMV提升1.13%，推广到同场景其他业务后累计GMV提升5.13%。系统服务数亿日活，GMCD与MILD每周更新、CVR和LoRA每天更新。

消融显示Taobao完整模型为0.8515/0.8275/0.4836；换成vanilla diffusion后降到0.8326/0.8158/0.5112；同时去掉GMCD和MILD则大幅降到0.7154/0.6295/0.7128；只去掉GMCD为0.8313/0.8139/0.5241，只去掉MILD为0.8278/0.8037/0.5092。去掉fusion gate后为0.8358/0.8170/0.5073，去掉importance gate后为0.8424/0.8215/0.4983；去掉Multi-LoRA和Multi-Intent后分别为0.8467/0.8253/0.4981与0.8374/0.8133/0.5022。结果说明GMCD与MILD互补，融合门贡献大于重要性门，多意图拆分优于一个混合向量。

实验还揭示数据域差异：HSTU在Taobao因特征少、序列短而不如DIEN/DMIN，在Amazon因评论文本更丰富、序列更长而占优。学习率在5乘10的负4次方到1乘10的负3次方较稳，超过2乘10的负3次方会不稳定；attention维度256、4个头是默认较优点，序列越长总体越有利。

5. 局限与未来方向

作者在结论中明确把未来方向写成扩展到多任务CVR/CTR建模，并继续诊断NID与IDF。论文没有给出线上绝对GMV、流量分桶和时延数字，工业数据绝对规模也未公开；生产实验报告相对提升而非完整置信区间。教师依赖Gemini API、学生依赖Qwen模型，部署团队需要处理教师访问成本、模型版本、蒸馏标签质量和意图描述偏差。

训练与服务流程仍较复杂：GMCD、MILD和CVR头分别有周更、日更和实时行为三个时间尺度，线上每次请求要依次执行GMCD、学生意图和CVR头。论文没有充分展开冷启动、极短序列、意图快速漂移、教师错误描述和敏感用户画像的安全审计。将这些视为工程风险，而不是论文已经解决的结论。

6. 工业实践意义

对社区搜索/推荐，GateDiffInt提供一条离线大模型、在线轻量模型的路径。可以把浏览、点击、停留、收藏、评论、关注和跳过按行为强度分级，先验证浅层行为是否产生噪声；再用遮罩重建或轻量扩散做序列增强，同时保留原始分支；最后让LLM离线生成长期、短期、潜在和转化意图标签，用小模型蒸馏到用户塔，在线只运行学生和排序头。

如果业务是社区搜索，不应照搬CVR命名，而应把最终目标换成query-item相关点击、深读、收藏或后续回访。重要性门可以给教师提示哪些行为更可信，例如完整阅读和收藏权重大于曝光或快速划过；四类意图也可以映射为用户主题、当前query需求、潜在探索方向和当前内容匹配意愿，随后用cross-attention与候选帖子特征做重排。

上线可沿论文节奏更新：结构化意图抽取和扩散模块按周更新，轻量CVR/CTR头按日或小时微调，实时行为只更新用户状态。监控必须覆盖CTR之外的校准、GAUC、长尾用户、冷启动用户、主题多样性、过度重复和负反馈；性能要测完整链路，包括序列读取、扩散步数、LoRA、cross-attention、特征获取和候选批量。

最重要的验收标准是论文消融中的互补关系能否迁移：如果只加入LLM意图标签就有收益，MILD可能已经足够；如果去噪和门控仍带来增量，再增加GMCD；如果融合门和重要性门收益很小，就不要为追求论文结构承受额外延迟。GateDiffInt的价值不是把大模型放进线上，而是把它变成可解释的离线老师，再用业务监督约束一个能被缓存、量化和回滚的用户建模模块。