Coarse-to-Fine Long-term Interest Modeling for Generative Recommendation

生成式推荐把物品编码成几层语义 ID（SID），再用 Transformer 一个码一个码地生成下一个物品。注意力计算量随序列长度平方增长，所以这类模型通常只吃最近几十条行为。论文用的两个数据集里，用户平均历史长度是 987（TAOBAO-MM）和 884（KuaiRec），模型输入却只截最近 50 条。作者还观察到一个现象：普通生成式召回在第一层码生成之后，真实物品在 beam 里的排名不升反降，第二层平均名次变差 1.25。GLASS 的做法是按 SID 的层级分开用长期历史：生成第一层码之前，把整段长期历史压成一个兴趣 token 送进编码器；第一层码生成之后，拿它当检索键，从长期历史里取出同一大类的物品，辅助生成后两层码。在 TAOBAO-MM 上，R@1 比最强基线 DualGR 高 21.57%；短视频平台两周 A/B 中，人均使用时长 +0.052%，召回率绝对提升 3 个百分点。

1. 问题：长历史怎么进生成式召回

排序阶段处理长序列有成熟做法，就是 SIM 的两段式：先用 GSU（General Search Unit）按目标物品从长历史里检索相关子序列，再交给 ESU（Exact Search Unit）做精细的 target attention。召回阶段没有目标物品，GSU 不知道该拿什么去检索。OneRec、OneSearch 用 Q-Former 把长期行为压成固定长度的向量，粒度停在兴趣簇一级。DualGR 已经把 SID 当检索键用在生成式召回里，但它对所有层级的码一视同仁。

作者的出发点是 SID 本身的结构。第一层码决定物品属于哪个大类，后两层码在这个大类里定位具体物品。生成第一层码时还没有任何路径，模型需要的是用户在各个大类上的整体偏好；生成后两层码时大类已经定了，需要的是用户在这个大类里具体点过什么。两层需要的长期信息粒度不同，所以分两处注入。

2. 整体结构

主干是 TIGER 式的编码器-解码器。物品的多模态向量经 RQ-VAE 量化成三层码，公开数据集上码本大小是 [64,128,128]，嵌入维度 96，编码器和解码器各 4 层。用户历史按时间排序后切成两段：最近 50 条是短期序列，更早的全部算长期序列。

3. 第一层码：SID-Tier 把长期历史压成一个 token

这一步解决“第一层码生成时没有任何线索”的问题。直接对长期历史做注意力太贵，作者利用了一级码本很小这一点：一级码只有几十到一百多个，用户历史和每个码之间的交叉特征可以全部算出来。

先给每个一级码 $k$ 一个原型向量 ${\tilde{\mathbf{h}}}_k$，取所有第一层码为 $k$ 的物品向量的平均。然后把余弦相似度区间 $[-1,1]$ 等分成 $N$ 档，对每个一级码统计长期历史里落在每一档的物品数：
$${\mathbf{t}}_k[j]=\sum _{v\in H_{long}^{id}}\mathbb{I}(\text{bin}(\text{Cos}({\tilde{\mathbf{h}}}_k,{\mathbf{h}}_v))=j)$$
${\mathbf{h}}_v$ 是历史物品 $v$ 的多模态向量，$\text{bin}(\cdot )$ 把相似度映射到档位，$\mathbb{I}$ 是指示函数。直觉上，${\mathbf{t}}_k$ 描述的是“用户历史里有多少物品和大类 $k$ 很像、有多少一般像、有多少不像”。把所有一级码的直方图拼起来，长度是 $K_0\cdot N$，过一个 MLP（隐层 256）压成一个 $d$ 维向量 ${\mathbf{e}}_{tier}$，拼在短期序列嵌入后面一起送进编码器。

这个 token 只依赖用户历史和码本，和要生成的物品无关，可以离线提前算好。它其实就是排序模型里常见的“用户对类目的历史偏好统计特征”，换成了在 SID 一级码上算。

4. 后两层码：用生成的第一层码去长期历史里检索

第一层码 ${\hat{c}}_0$ 生成之后，模型从长期历史里取出第一层码相同的所有物品：
$$H_{ret}=\{c(v_i)\mid v_i\in H_{long}^{id},c_0(v_i)={\hat{c}}_0(v_{n+1})\}$$
这相当于 SIM 的硬检索，检索键从“目标物品的类目”换成了“刚生成的第一层码”。解码器每层先做自注意力，再并行做两路 cross attention：一路以编码器输出为 key/value，得到 ${\mathbf{Z}}_{short}$；一路以检索回来的物品嵌入为 key/value，得到 ${\mathbf{Z}}_{ret}$。两路用门控合并：
$$\mathbf{g}=\sigma ([{\mathbf{Z}}_{short};{\mathbf{Z}}_{ret}]{\mathbf{W}}_g),{\mathbf{Z}}_{context}=(1-\mathbf{g})\odot {\mathbf{Z}}_{short}+\mathbf{g}\odot {\mathbf{Z}}_{ret}$$
${\mathbf{W}}_g$ 是 $2d\times d$ 的投影矩阵，$\sigma$ 是 sigmoid。$\mathbf{g}$ 大，结果偏向检索到的长期物品；$\mathbf{g}$ 小，偏向短期序列。训练目标是三层码的标准自回归交叉熵。

5. 检索回来的物品太少怎么办

硬检索有个直接的问题。按论文的例子，历史长度 1000、一级码本 128 时，每个一级码平均只能取回约 7.8 个物品，信息太少，噪声占比又高。作者给了两种补法：

• 语义邻居补充：预先算出一级码之间的余弦相似度，给每个码记下 top-k 个最近邻。检索结果少于阈值 $\tau$ 时，把邻居码对应的历史物品也并进来。
• 缩小一级码本：训练时就把一级码本调小，让每个一级码覆盖更多物品。第一层负责“多”，后两层负责“准”。

6. 实验

主结果。要证明的是 GLASS 比 ID 类序列模型和 SID 类生成式模型都好。两个数据集都只保留正反馈：TAOBAO-MM 取点击，并从商品里均匀采样 1 万个、只留训练集中出现至少 5 次的；KuaiRec 取播放时长超过视频时长的样本。下表从论文表 2 摘了最强的 ID 模型 HSTU 和两个 SID 基线：TIGER 是标准生成式召回，DualGR 用长短期两路分支加路由。

KuaiRec 上的提升只有 3.81%–4.94%。作者的解释是 KuaiRec 的多模态向量来自简单的文本编码，SID 质量差，而 TAOBAO-MM 用的是对比学习训出来的多模态特征。

两个模块各管哪一层。这组消融要说明 SID-Tier 主要帮第一层码、语义检索主要帮第二层码。作者看两个量：teacher forcing 下第 $i$ 层码的训练准确率 $ac{c}_i$，以及前面各层都对时第 $i$ 层码在 top-1 beam search 下也对的概率 $P_i$。加上 SID-Tier 后，$ac{c}_1$ 从 0.2410 升到 0.2485，$P_1$ 从 0.1470 升到 0.1587，Recall@5 从 0.0702 升到 0.0842。再加语义检索，主要抬高的是 $ac{c}_2$ 和 $P_2$。

名次为什么会掉。作者定义了条件名次（CRP）：只看前 $d-1$ 层码都留在 beam 里的样本，算第 $d$ 层正确码在 top-K 候选里的平均名次，越接近 1 越好。beam 大小 20 时，普通生成式模型到第二层名次平均变差 1.25，加语义检索后只变差 0.98；第三层从 0.19 降到 0.13。原因是普通模型生成后两层码时，条件上下文还是开头那一份，没有新信息拉开正确答案和干扰项的概率差距。

门控有没有用。固定权重 0.5 在一级码本小的时候有提升，码本变细后反而变差，因为检索结果长度波动大，太短时噪声直接进 beam search 的累积概率。学习到的门控值随检索长度整体上升，检索到的物品越多，模型给长期分支的权重越高。

稀疏补充。缩小一级码本拿到了最高的 Recall@10。语义邻居补充只在不缩码本时有效；码本已经缩小时再加邻居，指标略降，作者认为是邻居带进来的物品模糊了不同兴趣之间的边界。

线上。短视频平台两周 A/B，实验组和对照组各 3% 用户（约 1200 万）。95% 置信水平下，App 总使用时长 +0.056%，人均使用时长 +0.052%，召回率绝对提升 3 个百分点。

7. 局限和可以做的事

论文没有单独讨论局限，有两点事实要注意。公开数据集规模偏小：KuaiRec 只有 3790 个用户，TAOBAO-MM 的物品被采样到 1 万个，这和工业级码本规模差很远。效果对 SID 质量敏感：TAOBAO-MM 上各指标相对最强基线提升 14.03%–29.91%，KuaiRec 上只有 3.81%–4.94%。

如果你在做生成式召回、又有长行为序列，有两件事可以直接试：

• 把“用户对一级码的历史偏好直方图”当作一个额外 token 拼到编码器输入里，它可以离线算，线上几乎不增加开销。
• 用生成出的第一层码做硬检索之前，先统计一下每个一级码在用户历史里平均能取回多少物品；太少就先考虑缩小一级码本，再考虑邻居补充。