把大语言模型当作推荐底座时，一种做法是让模型先写一段自然语言推理（CoT），再输出下一个物品的语义编码（SID，把物品映射成三层离散编码的标识）。推理文本比三层 SID 长得多，解码时间和吞吐都被它拖住；而且此前的 OneReason 工作已经报告，同一个模型先推理再作答，并不稳定地好于直接作答。快手这篇 OneLatent 的做法是在用户上下文后面接 3 个固定的特殊 token，训练分几步：先让模型在这 3 个 token 之后复现教师大模型写的推理文本，再改成在它们之后直接输出目标 SID；上线时只接这 3 个 token，不生成任何推理文字。在快手本地生活工业数据上，OneLatent 的 SID@64 是 0.1993，比先写推理再作答的 OneReason-CoT 高 17.44%，推理吞吐是显式推理的 17.49 倍，和不推理的直接预测基本相同。和用同样教师推理数据训练、直接作答的最强对照相比，3 个潜在 token 在工业数据上只多出 1.58%，说明大部分提升来自教师推理数据本身。5% 流量的线上 A/B 测试估算收入提升 9.6%，目前已全量上线。

1. 显式推理为什么在推荐里不好用

推荐底座模型（FRM）的输入是用户画像 $P_u$、按时间排列的交互历史 $H_u$ 和请求时的上下文 ${\mathcal{C}}_u$（时间、地点、搜索词等），输出是下一个交互物品的 SID。让模型先写推理有两个问题。一是成本：每个请求都要逐个解码整段推理文字。二是准确率不一定涨：推理文字和 SID 之间多了一段生成路径，推理写偏一步，后面的 SID 就跟着偏。论文的 Table 2 里，OneReason-CoT 的先推理模式在工业数据上 SID@64 是 0.1697，低于同一检查点直接作答的 0.1823。

作者的思路是把教师写的推理只当训练信号，推理过程留在模型内部的隐状态里，推理时不输出文字。

2. 方法

2.1 潜在 token 是什么

作者在词表里加了 3 个特殊 token $⟨L_1⟩⟨L_2⟩⟨L_3⟩$，所有样本共用这同一组 token ID。Transformer 处理到这 3 个位置时会产生随上下文变化的隐状态，后面的 SID token 通过普通的因果注意力读取这些隐状态。这里没有额外的编码器、投影层或解码器，推理时多出来的计算就是固定的 3 个 token。作者也明确说，后面的 token 仍然能直接看到原始上下文，所以不能保证推理信息全部压在这 3 个位置里。

2.2 教师推理：三个视角，长度随难度调整

教师模型是 Qwen3-235B-A22B-Instruct-2507，从三个视角为每个样本写推理：

• 探索：只给用户画像和历史，让教师推测用户可能的消费意图，输出推理和意图列表。
• 评估：额外告诉教师用户真实交互的物品，让它判断这个物品和用户证据的匹配程度，输出推理和 1–5 分。
• 归因：告诉教师这个物品是正样本，让它解释是哪些历史信号导致了这次交互。

评估和归因视角用到了真实物品，但这个信息只给教师，不进学生模型的输入，所以不会泄露答案。提示词还要求教师先判断证据的复杂程度：信号明确的样本快速收敛，信号冲突的样本做多维比较。这样生成的推理平均长度降到原来的 65%（把不做自适应时的平均长度记为 100），在最长的一成样本上，两种推理的语义相似度约 0.92。

2.3 三阶段对齐和后训练

学生模型从 Qwen3.5-0.8B 初始化，先做推荐领域预训练，让 SID 和物品文字描述能互相生成：
$${\mathcal{L}}_{\mathrm{sem}}=-\log p_{\varphi }({\mathcal{S}}_v\mid C_v)-\log p_{\varphi }(C_v\mid {\mathcal{S}}_v)$$
其中 ${\mathcal{S}}_v$ 是物品 $v$ 的三层 SID，$C_v$ 是它的文字描述。之后分三个阶段训练潜在 token：

• 阶段一：输入是“画像、历史、视角标记、3 个潜在 token”，目标是复现一个视角的教师推理。
• 阶段二：同样的输入，目标换成该样本的所有视角推理。每条推理内部按 token 数取平均，避免长推理在损失里占更大比重。
• 阶段三：输入加上请求上下文，目标从推理文本换成下一个物品的 SID。

后训练先按用户活跃度从高到低做课程式微调，然后把“接潜在 token 再预测 SID”和“不接潜在 token 直接预测 SID”两种样本按 1:1 混合训练，保证两种模式都能用。

3. 实验

3.1 主结果

这组实验比较 OneLatent 和三类基线：基于物品 ID 的序列推荐（GRU4Rec、BERT4Rec、HSTU），基于 SID 的生成式推荐（TIGER、OneRec），以及基于 OneReason 的推理增强模型。数据有两份：快手本地生活 7 天的工业日志（测试集 20,393 条），以及快手公开的 LLM-Rec 基准（测试集 10,000 条）。指标 Hit@64 表示正确物品是否出现在模型生成的前 64 个结果里。下表摘自论文 Table 2，NoThink 和 Think 是同一个检查点的直接作答和先推理模式，括号里是训练所用的推理数据：

OneLatent 在所有指标上都是最高。但看提升来源要分开看两组对比。和 Think 模式比，工业 SID@64 高 17.44%；而且同样用三视角数据训练，Think 模式只有 0.1505，OneLatent 是 0.1993，说明同一份推理数据，让模型逐字写出来再作答反而降低准确率，因为 SID 要等推理写完才生成，推理里的偏差会传给 SID。和每一列最强的非 OneLatent 结果比，工业 SID@64 只高 1.58%，ID@64 只高 0.45%；公开数据上分别高 12.21% 和 19.10%。工业数据上的最强对照是用评估视角推理训练、直接作答的模型，它已经拿到了大部分收益。

在 9B 主干上，OneLatent 的 SID@64 是 0.2008，比同尺寸最好的非潜在推理结果 0.1857 高 8.13%（论文 Table 3）。

3.2 推理效率

这组实验检验潜在 token 的推理开销。作者在 872 条测试样本上比较三种推理方式（论文 Table 7）：

OneLatent 的吞吐是显式推理的 17.49 倍，和直接预测几乎相同，因为每个请求只多处理 3 个固定 token，不需要逐个解码推理文字。论文结论部分写的是“10 倍以上”，和正文的 17.49 倍不一致，以表中数字为准。

3.3 教师推理的质量和作用

这组实验检验三视角推理是否比原有推理更好。作者用 GPT-5.5 按九个维度（事实性、证据使用、因果逻辑等）给每种推理各 100 条样本打 1–5 分：OneReason 原推理平均 3.14，自适应长度推理 3.54，探索、评估、归因三个视角分别是 4.16、4.33 和 4.03（论文 Table 4）。换不同推理数据训练 OneLatent，公开数据上 SID@64 从原推理的 0.0092 升到三视角合并的 0.0239，评估视角单独就有 0.0233（论文 Table 5）。

潜在 token 的数量从 1 加到 3 时，三层 SID 的命中率都在上升，加到 4 或 5 个不再稳定提升，所以最终用 3 个。

为了看潜在 token 里存了什么，作者把画像、视角标记和 3 个潜在 token 输入训练好的模型，故意去掉交互历史，让它生成推理文字，再和教师推理比较语义相似度，三个视角的余弦相似度在 0.79 到 0.80 之间（论文 Table 8）。作者自己说明，画像仍然可见，这个相似度只能说明有关联，不能证明推理信息都存在潜在 token 里。

3.4 上线方式和 A/B 测试

即便没有推理文字，对每个请求同步调用底座模型仍然超出延迟和吞吐预算。所以 OneLatent 作为一路独立召回部署：用户有新行为时触发异步推理，按用户价值和行为强度决定刷新优先级，生成的候选写入 Redis，在线请求从缓存取候选，和原有召回结果一起进入精排竞争。A/B 测试在快手本地生活广告的一个子场景进行，实验组和对照组各占 5% 流量，时间是 2026 年 9 月 3 日到 10 日。实验组曝光量提升 2.566%，广告消耗提升 5.157%，后验估计收入提升 9.6%。

4. 局限

论文没有单独的局限章节，作者在正文里承认两点：潜在 token 不是严格的信息瓶颈，推理信息可能分散在整个模型里；Table 6 的提升来自完整的训练流程，不能单独归因于潜在 token。

另外两点需要注意。第一，工业数据上 OneLatent 比用同样教师数据训练的直接作答模型只高 1.58%，论文没有报告多次运行的方差，这个差距是否稳定无法判断。第二，线上采用异步缓存，候选是在用户上次行为之后生成的，A/B 的收益里有多少来自潜在推理、有多少来自新增一路召回，论文没有拆开。

5. 实践意义

一是想给推荐模型加推理能力，可以先把教师推理当作训练数据用，而不是要求模型在线上生成推理。论文里同一份三视角推理数据，用作训练信号时工业 SID@64 达到 0.1993，要求模型先写出来再作答只有 0.1505。

二是评估“潜在推理”类方法时，要把用同样教师数据训练的直接作答模型作为对照。本文工业数据上大部分提升在这个对照里已经出现，只和显式推理对比会高估潜在 token 本身的作用。

Netflix 首页由多行组成，每行是一个主题（比如“韩国电视剧”），行内横排若干部影片。原来的首页由多阶段推荐系统拼出来：先召回候选行和候选影片，再分别排序，最后组页。GenPage 用一个 decoder-only Transformer 直接生成整页：用户历史、账号属性和请求信息编码成 prompt，模型按从左到右、从上到下的顺序逐个生成行 token 和影片 token，每行、每部影片都只占一个 token。训练照搬大模型的流程，先在线上获得正反馈的首页上做下一 token 预测预训练，再用加权二分类（WBC）或强化学习做后训练。约 2 亿参数的 WBC 版本在 14 天 A/B 中把 Netflix 上线决策用的核心互动指标提升 0.24%，端到端延迟降低 20%；强化学习版本还没有上线。

1. 为什么要整页生成

多阶段系统里，召回、排序、组页各有各的模型和目标，特征工程也分散在各阶段。整页生成想解决三件事。第一，一个模型从原始输入直接出页面，要维护的模型少，各阶段目标不一致的问题也随之消失。第二，逐个生成的页面可以用强化学习按整页奖励优化，把行与行之间的相互影响算进去：比如“继续观看”行放在顶部时，用户多半直接续看已经开始的剧，不再往下浏览，论文把这种吸住注意力、让用户停止浏览的能力叫 stopping power。第三，模型质量可以靠加数据、加参数继续提高，不必反复改系统结构。

落到线上有四个约束：首页要实时生成，延迟是第一位的；片库每天都有新片，要处理冷启动；用户兴趣和热点在变，模型要保持新鲜；页面还要满足大量业务规则。

2. 数据怎么变成 token

每条训练样本对应一次首页曝光，包含三部分：上下文（用户历史、账号属性、请求信息）、页面（按版面顺序排列的行和影片）、反馈（播放、点赞、放弃等）。只有上下文和页面被 token 化作为模型的输入输出，反馈经过奖励系统转成监督信号。

团队没有用现成的文本分词器，而是为首页数据定制了 token。“用户 30 天前看了 50 分钟《女子监狱》”这件事，GPT-5 的分词器要 16 个 token，GenPage 只要 4 个：影片 ID、行为类型、行为时间分桶、观看时长分桶。一个影片、一行各对应一个 token，序列更短、推理更便宜，业务规则也能直接写成对某些 token 的屏蔽。行和影片的词表每天更新。

首页通常分几次请求、每次生成几行。每次翻页前，已经生成的行和用户在这些行上的最新行为会追加到 prompt 里，下一批推荐就能同时用上长期偏好和本次会话的行为。

3. 奖励与模型

奖励来自 Netflix 已有的奖励系统，它经过线上 A/B 调校，和用户的长期满意度对齐。系统给页面上每个曝光的影片一个标量奖励：一晚上刷完的剧奖励高，只看了 10 分钟的电影奖励低，曝光后用户放弃的影片得负奖励。整页奖励是所有曝光影片的奖励之和。

模型是标准 decoder-only Transformer，只有一处改动：输入 embedding 和输出投影不共享权重。预训练优化整个词表上的 softmax，WBC 后训练优化每个 token 各自的 sigmoid，两者需要的 logit 数值范围差别很大，拆开权重让模型能同时适应两种目标。线上 A/B 用的是约 2 亿参数的模型，为的是守住延迟预算。

4. 训练

4.1 预训练：模仿线上系统

预训练用线上获得正反馈的首页曝光，给定上下文和已生成的前几个页面 token，预测下一个页面 token。模型从零开始训，不从现成的大模型初始化。这一步让模型学会生成和线上系统相似的页面，但它只是模仿，不直接优化奖励大小；GenPage 上线后，如果反复用自己生成的页面再训练，模型还有退化的风险。

4.2 WBC 后训练：把生成变成逐 token 估值

WBC 让模型在给定上下文和已生成前缀时，估计生成每一个候选行或影片的价值。每个曝光影片的标签取奖励的正负（正向互动为 1，放弃为 0），权重取奖励的绝对值，行的奖励由行内影片奖励汇总得到。按论文的描述，损失写成：
$${\mathcal{L}}_{WBC}=-\sum _t|r_t|[y_t\log \sigma (z_t)+(1-y_t)\log (1-\sigma (z_t)\left)\right],y_t=1[r_t>0]$$
$t$ 是页面上一个曝光的行或影片，$r_t$ 是它的奖励，$z_t$ 是模型在该位置给这个 token 的 logit，$\sigma$ 是 sigmoid。每个曝光目标之外，还随机抽一些 token 当负样本。很少被曝光的影片作为随机负样本被抽中的次数远多于作为正样本出现的次数，于是模型给冷门影片的估值天然偏低，这相当于一个热度先验，避免模型因为少量噪声样本把冷门影片排得很高。

生成时，模型在每一步对所有候选 token 算 logit，贪心选最大的那个，追加到前缀，再生成下一个。在线上排序模型的标准离线评估集上，WBC 模型在加权 AUC 等影片级指标上超过了线上排序模型。

4.3 强化学习后训练：按整页奖励优化

WBC 优化的是单个影片，强化学习优化整页。做法参照大模型的 RLHF：先训一个奖励模型，输入任意一页生成结果，预测这一页的整页奖励（监督目标是奖励系统给出的影片奖励之和），再用 Dr. GRPO（GRPO 的一个修正目标偏差的变体）优化生成策略，训练框架是 verl，推理引擎是 vLLM。策略、参考模型和奖励模型都从预训练 checkpoint 初始化。奖励模型的训练数据来自线上策略，只在和线上相似的页面上可靠，所以策略用 KL 惩罚约束在参考模型附近，防止策略生成那些奖励模型会误判为高分的页面。另有规则奖励，比如页面必须是一行一行的结构，业务上关键的行不能排得太靠下。

5. 上线要解决的工程问题

冷启动有两个办法。一是把新片或直播等时效内容的元数据直接写进上下文 token。二是语义 embedding 融合：每部影片的输入 embedding 由 ID embedding 和基于简介、演员、字幕、类型、视频内容的内容 embedding 融合而成，新片即使交互很少也有可用的表示。

保持新鲜靠多节奏增量训练：隔一段时间在较长的历史窗口上完整做一遍预训练和后训练；两次之间每天从前一天的 checkpoint 继续后训练，数据是最近一天加一部分抽样的历史数据，既跟上新片和热点，又不忘掉旧知识。新行、新影片先用对应类型的兜底 token 初始化，训练时还随机把一小部分已知 token 换成兜底 token，让模型学会处理没见过的 token。

业务规则用约束解码保证：每一步按适用的规则算出可选 token 的掩码，乘到输出 logit 上，只允许合规的 token 被生成。比如要把“热门游戏”行固定在第 2 行，就在第 2 行的位置屏蔽其他所有行 token。规则因请求而异，所以掩码要按请求、按位置动态构造，团队为此改了推理引擎。

每行只自回归生成前几部影片，因为前几部最受注意、最能决定这一行给人的印象；剩下的位置在这个前缀条件下做一次前向，按 logit 取分数最高的合规影片，这叫混合行解码，用来减少解码步数。

6. 实验

6.1 预训练有没有用

这组实验要说明预训练能给 WBC 后训练提供更好的起点。做法是对比先预训练再做 WBC，和直接做 WBC。

Entity AUC 从 0.91 到 0.92 看起来很小，作者换了一种说法：不考虑样本加权时，随机抽一对曝光影片（一个正样本、一个负样本），模型排错的概率从 9% 降到 8%。在成熟的线上系统上，单个改动很少能带来这么大的提升。

6.2 加参数还是加上下文

这组实验要比较两种提升方式的收益：模型从约 1.2 亿参数扩到 9 亿参数，以及模型大小不变、逐步丰富 prompt 的内容和 token 化方式。

模型扩大约 7.5 倍，WBC 损失只降约 1.3%；丰富上下文累计降约 6.9%，好几次单独一项上下文改进的收益就超过整个参数扩大的收益。作者的判断是，当前阶段个性化质量先受限于模型能拿到的信息和表示方式，然后才受限于容量。两组实验的轴不同，上下文的每一步也是在不同数据快照上测相对上一步的改进再连乘出来的，只能做相对比较。

6.3 强化学习是不是在优化整页

这组实验要说明强化学习学到的是整页层面的策略，而不是逐个 token 贪心。奖励在训练中稳步上升，但这是用策略正在优化的同一个奖励模型算的，只能算验证。更有说服力的是多样性：用页面上影片两两之间的 embedding 距离衡量，它不在训练目标里，却也随训练上升。

6.4 线上 A/B

线上对照组是现有的多阶段首页推荐系统，实验组是约 2 亿参数的 WBC 模型。为了沿用资格审核等业务规则，GenPage 在现有系统给出的候选行和候选影片集合里解码。共 5 个实验组，区别在随机负样本的数量和训练时纳入哪些线上曝光。

5 个配置的提升接近，说明收益不依赖某个特定的训练数据设置。作者称这是近几年最大的算法驱动提升之一。延迟下降是因为一个 Transformer 直接吃 token 化的原始输入，替换了多个排序阶段和大量特征计算，定制 token 和混合行解码又减少了解码步数，而且可用的优化还没有用完。

上线后还观察到两件事。一是会话内的最新行为会很快影响后续推荐，一两天后回落到长期偏好，说明模型确实在使用行为时间戳，原系统做到这一点要靠大量手工特征。二是曝光内容的构成发生了意料之外的变化，比如新片和老片、剧集和电影、高质量和低质量互动的比例都变了。作者推测这是因为 GenPage 的个性化更精准，暴露出从原系统继承来的奖励系统等组件和生成式范式还没对齐，后续会调这些组件。

7. 局限

作者列出的未完成部分有三项：强化学习后训练还没有上线；长上下文仍然靠手工设计的摘要；文本、多模态和推理能力还没有接入。强化学习还有两个开放问题：离线评估依赖策略正在优化的奖励模型，结论是循环的；WBC 完全按影片拆分、整页强化学习完全不拆，两者之间如何利用部分结构还没有答案。

另外，线上实验是在原系统给出的候选集合上解码，召回阶段并没有被替换，所以这次 A/B 验证的是排序和组页，不是完全端到端的生成。

8. 实践意义

• 如果你在做生成式推荐，可以先检查 token 化方式：一个物品、一个版面单元对应一个 token，序列短，业务规则也能直接写成 logit 掩码，不需要在多 token 的文本词表上维护复杂的约束。
• 在加大模型之前先丰富上下文。Netflix 的数据里，上下文改进累计带来的损失下降约为 7.5 倍参数扩大的 5 倍。

生成式推荐把物品编码成几层语义 ID（SID），再用 Transformer 一个码一个码地生成下一个物品。注意力计算量随序列长度平方增长，所以这类模型通常只吃最近几十条行为。论文用的两个数据集里，用户平均历史长度是 987（TAOBAO-MM）和 884（KuaiRec），模型输入却只截最近 50 条。作者还观察到一个现象：普通生成式召回在第一层码生成之后，真实物品在 beam 里的排名不升反降，第二层平均名次变差 1.25。GLASS 的做法是按 SID 的层级分开用长期历史：生成第一层码之前，把整段长期历史压成一个兴趣 token 送进编码器；第一层码生成之后，拿它当检索键，从长期历史里取出同一大类的物品，辅助生成后两层码。在 TAOBAO-MM 上，R@1 比最强基线 DualGR 高 21.57%；短视频平台两周 A/B 中，人均使用时长 +0.052%，召回率绝对提升 3 个百分点。

1. 问题：长历史怎么进生成式召回

排序阶段处理长序列有成熟做法，就是 SIM 的两段式：先用 GSU（General Search Unit）按目标物品从长历史里检索相关子序列，再交给 ESU（Exact Search Unit）做精细的 target attention。召回阶段没有目标物品，GSU 不知道该拿什么去检索。OneRec、OneSearch 用 Q-Former 把长期行为压成固定长度的向量，粒度停在兴趣簇一级。DualGR 已经把 SID 当检索键用在生成式召回里，但它对所有层级的码一视同仁。

作者的出发点是 SID 本身的结构。第一层码决定物品属于哪个大类，后两层码在这个大类里定位具体物品。生成第一层码时还没有任何路径，模型需要的是用户在各个大类上的整体偏好；生成后两层码时大类已经定了，需要的是用户在这个大类里具体点过什么。两层需要的长期信息粒度不同，所以分两处注入。

2. 整体结构

主干是 TIGER 式的编码器-解码器。物品的多模态向量经 RQ-VAE 量化成三层码，公开数据集上码本大小是 [64,128,128]，嵌入维度 96，编码器和解码器各 4 层。用户历史按时间排序后切成两段：最近 50 条是短期序列，更早的全部算长期序列。

3. 第一层码：SID-Tier 把长期历史压成一个 token

这一步解决“第一层码生成时没有任何线索”的问题。直接对长期历史做注意力太贵，作者利用了一级码本很小这一点：一级码只有几十到一百多个，用户历史和每个码之间的交叉特征可以全部算出来。

先给每个一级码 $k$ 一个原型向量 ${\tilde{\mathbf{h}}}_k$，取所有第一层码为 $k$ 的物品向量的平均。然后把余弦相似度区间 $[-1,1]$ 等分成 $N$ 档，对每个一级码统计长期历史里落在每一档的物品数：
$${\mathbf{t}}_k[j]=\sum _{v\in H_{long}^{id}}\mathbb{I}(\text{bin}(\text{Cos}({\tilde{\mathbf{h}}}_k,{\mathbf{h}}_v))=j)$$
${\mathbf{h}}_v$ 是历史物品 $v$ 的多模态向量，$\text{bin}(\cdot )$ 把相似度映射到档位，$\mathbb{I}$ 是指示函数。直觉上，${\mathbf{t}}_k$ 描述的是“用户历史里有多少物品和大类 $k$ 很像、有多少一般像、有多少不像”。把所有一级码的直方图拼起来，长度是 $K_0\cdot N$，过一个 MLP（隐层 256）压成一个 $d$ 维向量 ${\mathbf{e}}_{tier}$，拼在短期序列嵌入后面一起送进编码器。

这个 token 只依赖用户历史和码本，和要生成的物品无关，可以离线提前算好。它其实就是排序模型里常见的“用户对类目的历史偏好统计特征”，换成了在 SID 一级码上算。

4. 后两层码：用生成的第一层码去长期历史里检索

第一层码 ${\hat{c}}_0$ 生成之后，模型从长期历史里取出第一层码相同的所有物品：
$$H_{ret}=\{c(v_i)\mid v_i\in H_{long}^{id},c_0(v_i)={\hat{c}}_0(v_{n+1})\}$$
这相当于 SIM 的硬检索，检索键从“目标物品的类目”换成了“刚生成的第一层码”。解码器每层先做自注意力，再并行做两路 cross attention：一路以编码器输出为 key/value，得到 ${\mathbf{Z}}_{short}$；一路以检索回来的物品嵌入为 key/value，得到 ${\mathbf{Z}}_{ret}$。两路用门控合并：
$$\mathbf{g}=\sigma ([{\mathbf{Z}}_{short};{\mathbf{Z}}_{ret}]{\mathbf{W}}_g),{\mathbf{Z}}_{context}=(1-\mathbf{g})\odot {\mathbf{Z}}_{short}+\mathbf{g}\odot {\mathbf{Z}}_{ret}$$
${\mathbf{W}}_g$ 是 $2d\times d$ 的投影矩阵，$\sigma$ 是 sigmoid。$\mathbf{g}$ 大，结果偏向检索到的长期物品；$\mathbf{g}$ 小，偏向短期序列。训练目标是三层码的标准自回归交叉熵。

5. 检索回来的物品太少怎么办

硬检索有个直接的问题。按论文的例子，历史长度 1000、一级码本 128 时，每个一级码平均只能取回约 7.8 个物品，信息太少，噪声占比又高。作者给了两种补法：

• 语义邻居补充：预先算出一级码之间的余弦相似度，给每个码记下 top-k 个最近邻。检索结果少于阈值 $\tau$ 时，把邻居码对应的历史物品也并进来。
• 缩小一级码本：训练时就把一级码本调小，让每个一级码覆盖更多物品。第一层负责“多”，后两层负责“准”。

6. 实验

主结果。要证明的是 GLASS 比 ID 类序列模型和 SID 类生成式模型都好。两个数据集都只保留正反馈：TAOBAO-MM 取点击，并从商品里均匀采样 1 万个、只留训练集中出现至少 5 次的；KuaiRec 取播放时长超过视频时长的样本。下表从论文表 2 摘了最强的 ID 模型 HSTU 和两个 SID 基线：TIGER 是标准生成式召回，DualGR 用长短期两路分支加路由。

KuaiRec 上的提升只有 3.81%–4.94%。作者的解释是 KuaiRec 的多模态向量来自简单的文本编码，SID 质量差，而 TAOBAO-MM 用的是对比学习训出来的多模态特征。

两个模块各管哪一层。这组消融要说明 SID-Tier 主要帮第一层码、语义检索主要帮第二层码。作者看两个量：teacher forcing 下第 $i$ 层码的训练准确率 $ac{c}_i$，以及前面各层都对时第 $i$ 层码在 top-1 beam search 下也对的概率 $P_i$。加上 SID-Tier 后，$ac{c}_1$ 从 0.2410 升到 0.2485，$P_1$ 从 0.1470 升到 0.1587，Recall@5 从 0.0702 升到 0.0842。再加语义检索，主要抬高的是 $ac{c}_2$ 和 $P_2$。

名次为什么会掉。作者定义了条件名次（CRP）：只看前 $d-1$ 层码都留在 beam 里的样本，算第 $d$ 层正确码在 top-K 候选里的平均名次，越接近 1 越好。beam 大小 20 时，普通生成式模型到第二层名次平均变差 1.25，加语义检索后只变差 0.98；第三层从 0.19 降到 0.13。原因是普通模型生成后两层码时，条件上下文还是开头那一份，没有新信息拉开正确答案和干扰项的概率差距。

门控有没有用。固定权重 0.5 在一级码本小的时候有提升，码本变细后反而变差，因为检索结果长度波动大，太短时噪声直接进 beam search 的累积概率。学习到的门控值随检索长度整体上升，检索到的物品越多，模型给长期分支的权重越高。

稀疏补充。缩小一级码本拿到了最高的 Recall@10。语义邻居补充只在不缩码本时有效；码本已经缩小时再加邻居，指标略降，作者认为是邻居带进来的物品模糊了不同兴趣之间的边界。

线上。短视频平台两周 A/B，实验组和对照组各 3% 用户（约 1200 万）。95% 置信水平下，App 总使用时长 +0.056%，人均使用时长 +0.052%，召回率绝对提升 3 个百分点。

7. 局限和可以做的事

论文没有单独讨论局限，有两点事实要注意。公开数据集规模偏小：KuaiRec 只有 3790 个用户，TAOBAO-MM 的物品被采样到 1 万个，这和工业级码本规模差很远。效果对 SID 质量敏感：TAOBAO-MM 上各指标相对最强基线提升 14.03%–29.91%，KuaiRec 上只有 3.81%–4.94%。

如果你在做生成式召回、又有长行为序列，有两件事可以直接试：

• 把“用户对一级码的历史偏好直方图”当作一个额外 token 拼到编码器输入里，它可以离线算，线上几乎不增加开销。
• 用生成出的第一层码做硬检索之前，先统计一下每个一级码在用户历史里平均能取回多少物品；太少就先考虑缩小一级码本，再考虑邻居补充。