1. 问题与动机
多模态序列推荐 (Multi-modal Sequential Recommendation) 面临两个核心挑战:表示对齐困难和迁移学习效率低下。现有的 ID-based 序列推荐模型(如 SASRec、BERT4Rec)虽然在单域内表现良好,但由于 ID 映射不可跨域迁移,在冷启动和跨域场景下受限严重。近年来 MISSRec、UniSRec 等方法引入预训练+迁移学习范式处理多模态信息,但存在两个突出问题:(1) 依赖复杂的对比学习目标函数,导致微调收敛极慢(MISSRec 在 Arts 数据集需要 166 个 epoch 才能收敛);(2) 静态多模态特征在不同交互上下文中语义不同,但现有方法未能动态适配模态贡献度。
另一个被忽视的问题是时序偏好的不均匀性:近期交互比早期交互更能反映用户当前兴趣,但 Transformer 的全局注意力机制对所有序列位置赋予同等关注度。论文通过截断实验验证了这一假设——仅使用最近 5 个交互项即可保留 97% 的推荐性能,说明 Mamba 的内在近因偏好 (recency bias) 天然匹配序列推荐的时序模式。
2. 方法详解
MMM4Rec 采用三层架构设计:
多模态特征预提取层:使用冻结的预训练编码器(ViT 处理图像、BERT 处理文本),通过轻量级模态专用适配器将特征投影到 256 维统一空间。可选的模态偏置矩阵注入领域先验。预提取策略使训练时无需加载大型编码器,显著降低显存需求。
序列级跨模态对齐(TiSSD):核心创新在于将时间衰减信息融入状态空间模型的离散化步长。具体地,时间差分向量 D̂ = α^D · σ(D * ω^D),其中 α^D 由 MLP 自适应学习。增强步长 Δ̂ = Softplus(Δ · D̂) + b^Δ 控制状态更新幅度。关键设计决策:图像和文本模态共享相同的 TiSSD 参数(权重共享约束),这一代数约束强制两个模态投射到统一的推荐语义空间,从而替代了传统方法中复杂的对比学习对齐目标。这是论文最重要的简化:通过结构约束实现对齐,而非通过损失函数约束。
序列级跨模态融合(TiCoSSD):设计了新颖的双通道傅里叶滤波融合机制。自适应滤波器学习频域核 K^v, K^t 进行复值线性变换;可学习滤波器融合滤波后的频谱并执行逆 FFT。融合操作中,图像模态提供查询 C = P^v W₂ + b₂,文本模态提供键值 [B, X, Δ] = P^t W₃ + b₃,最终 M = TiCoSSD(P^v, P^t, D̂^f) = L ∘ CB^T(Δ̂^T X)。
训练配置:预训练阶段使用 in-batch 负采样和交叉熵损失(温度 τ=0.8),NAdam 优化器(学习率 1e-4),40 epoch,dropout 0.4。微调阶段使用全语料排序。整个训练策略极为简洁——单一交叉熵损失取代了复杂的多目标优化。
3. 核心技术贡献
贡献一:代数约束替代对比学习的对齐范式。通过 TiSSD 权重共享,数学上保证两个模态收敛到推荐对齐空间。这不仅简化了训练流程,更从根本上解决了对比学习方法中负样本选择和温度敏感性问题。相比 MISSRec 的多阶段对比预训练,MMM4Rec 的收敛速度提升约 10 倍(Arts 数据集 5 epoch vs 166 epoch)。
贡献二:时间感知的状态空间增强。将交互时间差分信息编码到 SSD 的离散化步长中,使模型在保持近因偏好的同时不丢失关键早期交互。这比 Transformer 中简单添加时间位置编码更优雅,因为时间信息直接参与状态更新的动力学过程。
贡献三:频域双通道跨模态融合。通过傅里叶变换在频域处理跨模态时序模式,避免了早期特征拼接导致的信息丢失。双通道设计(自适应+可学习滤波器)提供了互补的频域视角。
贡献四:极简迁移学习策略。仅用交叉熵损失和内在代数约束即实现高效迁移,每 epoch 训练时间 27.93 秒(vs MISSRec 的 41.06 秒),同时在 5 个数据集上取得更优性能。
4. 实验结果分析
在 Amazon 数据集的 5 个领域(Scientific、Pantry、Instruments、Arts、Office)上评估:
含 ID 特征的多模态实验:MMM4Rec 在 Pantry 上 R@10 提升 26.32%、N@10 提升 31.78%(vs MISSRec)。在 Office 上 R@10 提升 4.45%、R@50 提升 5.75%。所有结果通过 t-test(p<0.05)验证统计显著性。
无 ID 特征的跨域实验:Pantry 上 R@10 提升 14.79%(vs MISSRec),Instruments 上 R@10 提升 5.81%(vs VQRec),证明在真正的跨域迁移场景中优势同样显著。
迁移效率对比:Arts 数据集收敛所需 epoch 数——MMSRec: 67, MISSRec: 166, MMM4Rec: 5。每 epoch 训练时间——MMSRec: 33.57s, MISSRec: 41.06s, MMM4Rec: 27.93s。
消融实验关键发现:去除预训练导致 Scientific 数据集 R@10 下降 7.2%;去除时间感知组件导致 1.5% 下降;去除权重共享约束导致 R@50 下降 4.2%;两个傅里叶滤波器缺一不可。单层 vs 双层结构:稀疏数据集(Pantry)上单层更优,大数据集上双层有帮助。
5. 局限与未来方向
论文未设专门的 limitations 部分,但存在以下隐含局限:(1) 图像缺失问题未彻底解决——Kindle 数据集 0% 图像覆盖率导致实验中直接跳过;(2) 权重共享约束能促进收敛的理论分析不足,缺乏收敛保证;(3) FFT 操作的计算复杂度未分析,对超长序列的扩展性不明确;(4) 仅在 Amazon 产品推荐数据集上验证,未在其他领域(如新闻、视频)测试泛化性。
6. 工业实践意义
直接可采纳的设计:(1) 预提取+冻结编码器的策略对工业部署友好,避免在线推理时加载大型视觉/语言模型;(2) 权重共享约束的对齐方法比对比学习更容易工程化,无需精心设计负采样策略;(3) 简单交叉熵损失降低了调参复杂度。
社区搜索场景的借鉴:社区 UGC 内容天然是多模态的(文本+图片),MMM4Rec 的跨模态融合思路可用于搜索排序中的多模态特征建模。TiSSD 的时间衰减设计对用户搜索行为建模有参考价值——近期搜索行为比远期更能反映即时意图。
部署注意事项:模型参数量相对轻量(256 维投影),推理延迟可控。但频域融合操作的实时性需要在具体硬件上验证。代码已开源 (https://github.com/AlwaysFHao/MMM4Rec),可直接复现。