1. 问题与动机
序列推荐旨在从用户历史交互中预测下一次行为，是推荐系统的核心任务。现有方法面临根本性的效率-精度权衡：基于马尔可夫的方法只能捕捉局部转移；RNN 受限于梯度消失和"摘要瓶颈"；CNN 受限于固定感受野；而基于注意力的方法（SASRec、BERT4Rec）虽然能建模任意长程依赖，但 O(L²) 的复杂度使其在处理长用户历史时代价高昂。
在实际电商场景中，用户交互记录可达数百甚至上千条。论文引用的 XLong 数据集平均序列长度高达 958.8，此时注意力机制的二次复杂度成为严重瓶颈。已有的亚二次替代方案（如 Mamba4Rec）虽提供了线性复杂度，但在推荐场景的稀疏反馈下表示能力有限。论文的核心动机是：能否将 NLP 领域的 Hyena 算子适配到推荐场景，在保持线性复杂度的同时解决稀疏反馈和多尺度行为建模的挑战？
2. 方法详解
整体架构：HyenaRec 由输入嵌入层、N 层 Hyena 骨干网络和预测层组成。输入层将物品 ID 映射为 D 维稠密向量，并使用复指数位置编码。预测层通过权重共享投影回物品词表空间。
Hyena 算子核心流程：输入 X 经通道扩展后分为短路径和长路径。短路径通过轻量逐点/1D 卷积加自适应门控处理，生成 O 个门控信号和初始值 V(0)。长路径进行层级计算：V(o) = Conv_dw(V(o-1) X(o), k(o))，其中 为逐元素乘法，Conv_dw 是因果深度可分离卷积。
核心创新——LegendreHyenaFilter：每个通道的卷积核被参数化为 Legendre 正交多项式的线性组合：k(o)(t) = sum_{n=0}^{K-1} c_n(o) P_n(t)。基矩阵 P 的大小为 KL，系数矩阵 C 的大小为 D*K，最终核通过 L1 归一化防止信号爆炸。K=64 通过累积能量分析确保 E_K >= 0.95。
选择 Legendre 多项式的理由：(1) 非周期结构匹配用户行为的不规则性（Fourier 基强加人为周期性）；(2) 正交性提供隐式正则化，防止稀疏数据上过拟合；(3) 边界可控防止信号爆炸；(4) 通过三项递推关系实现 O(KL) 高效计算。深度可分离卷积在频域通过 FFT 实现，复杂度 O(BDL log L)。
训练配置：AdamW 优化器，学习率 1e-3，批大小 128（XLong 用 32），最大 500 epoch，早停策略。
3. 核心技术贡献
贡献一：首次将亚二次长卷积引入序列推荐。HyenaRec 是第一个将 Hyena 算子适配到推荐领域的工作。关键适配在于用 Legendre 多项式替换原始 Hyena 的 MLP 核生成器，解决了稀疏反馈下 MLP 易过拟合的问题。
贡献二：Legendre 多项式核参数化。用 K=64 个正交基函数表征长度为 L 的卷积核，参数量从 O(DL) 降至 O(DK)。消融实验证实这是性能的关键贡献因素——去除后 XLong Recall@20 从 0.603 骤降至 0.512。
贡献三：GLU 门控机制适配。门控线性单元在短路径中自适应过滤信息。消融实验显示去除 GLU 后 ML-1M NDCG@10 从 0.200 降至 0.190。
贡献四：多尺度时序建模。层级卷积结构通过不同深度捕获多尺度时序模式，每层复杂度 O(BLD(D + log L))，相比注意力的 O(BL^2*D) 在长序列上优势显著。
4. 实验结果分析
论文在 4 个数据集上与 8 个基线对比（GRU4Rec、NARM、LRURec、SASRec、BERT4Rec、EulerFormer、HSTU、Mamba4Rec）。
| 数据集 | 指标 | HyenaRec | 最强基线 | 提升 |
|---|
| ML-1M | NDCG@10 | 0.2001 | LRURec 0.1907 | +4.94% |
| Steam | NDCG@10 | 0.0724 | HSTU 0.0709 | +2.02% |
| Video | NDCG@10 | 0.0644 | HSTU 0.0632 | +1.84% |
| XLong | NDCG@10 | 0.4102 | LRURec 0.3487 | +17.65% |
最引人注目的是在超长序列数据集 XLong（平均长度 958.8）上 NDCG@10 提升 17.65%。训练效率方面，SASRec 需要 1.77x 时间，BERT4Rec 需要 4.25x。
消融分析：(1) Fourier 基替换 Legendre 基在 XLong 上 Recall@20 从 0.603 降至 0.573；(2) Chebyshev 基表现类似（0.576），均不如 Legendre；(3) 超参数敏感性分析显示 dropout 0-0.4 范围内性能稳定，weight decay 最优值为 1e-4。
唯一劣势：XLong 的 Recall@20 上 HyenaRec（0.603）略低于 LRURec（0.618），表明在超长序列的粗召回任务上仍有改进空间。
5. 局限与未来方向
论文自述局限：(1) 仅覆盖离线评估，缺少在线 A/B 实验；(2) 基底阶数 K=64 的选择在不同领域可能需要调整；(3) XLong Recall@20 的轻微劣势表明粗粒度召回能力有待增强。
未提及的局限：(1) 缺少与最新 Mamba2 变体的对比；(2) 仅评估序列推荐，未验证在 CTR 预测等复杂任务中的表现；(3) 未讨论与特征交互模块的兼容性，而工业推荐系统通常需要同时建模序列和稠密特征。
6. 工业实践意义
直接可采纳：对于用户行为序列较长（>100 条）的推荐系统，HyenaRec 提供了可行的效率优化路径。6 倍训练加速和线性推理复杂度意味着可以用相同硬件处理更长的行为历史。Legendre 基矩阵可预计算并缓存，推理时仅需矩阵乘法和 FFT 卷积。论文提到支持 O(D) 增量推理，适合低延迟在线 serving。
谨慎之处：(1) 所有实验为学术评估，缺少工业级数据和在线验证；(2) 与 MixFormer、HSTU 等工业方案相比，未考虑多模态特征和稠密特征交互；(3) WWW 2026 录用增加可信度，但最终影响力取决于工业验证。
对搜索排序的启示：社区搜索场景中如要建模长期用户偏好（过去几个月的搜索和点击历史），Legendre 核的线性复杂度和多尺度建模能力可替代现有注意力模块，在不增加推理延迟的前提下扩展序列窗口。
Kuaishou
Huawei