UniDot: A Unified Network for Sequence Modeling and Feature Interaction in Large-scale Recommendation
排序模型通常把字段交叉和行为序列分成两个塔,到最后一层才拼在一起。UniDot 把用户、物品字段和多域行为序列都变成同一空间的 token,用两条并行通路一起处理,每层交换一次信息;同时把每层算出的点积原样拼起来,绕过融合层直接送进分类器。它在腾讯广告转化预测比赛中拿到 AUC 0.83217,排第 2。最值得借鉴的是两个便宜的部件:消融里这条点积旁路贡献最大;两条通路互相蒸馏、上线只用一条,AUC 仍有 0.83184,推理时间减半。