深度解读：TSGR: Taobao Search Generative Retrieval
1. 问题与动机
论文指出工业生成式检索与真实商业目标存在结构性错位。现有方法通常用多模态语义向量构建全局固定的 Semantic ID，再按 token 概率做 beam search；这能优化语义相似，却不知道同一商品在不同 query 下的价值差异，也无法在动态生成候选前预取丰富的商品侧特征。两个商品可能同样相关，但点击、转化和 GMV 价值显著不同。若高价值商品没进入候选集，后续排序再强也无法挽回。
TSGR 将问题拆成两层：在表示层让 SID 感知 query 与商业价值，在输出层让生成模型同时承担预排。作者不只验证离线 HR，还在淘宝搜索上用 IPV、成交数和 GMV 检验收益，这使工作区别于仅证明语义 ID 可行的学术方案。
2. 方法详解
TSGR 以 Qwen2.5-0.5B 为生成骨干，输出三级 SID。前两级是语义码本：先用 8100 多个类目的商品平均向量初始化第一级，再对“簇中心减类目中心”的残差做 RQ-KMeans。原始四级结构会增加解码成本和级联错误，作者将前两级合并，最终码本规模为 32768×8192×8192。
第三级是 QP-SID 的“效率码本”。在每个语义簇内，默认路径按过去 30 天点击数排序，高价值商品获得更靠前的 token 索引。系统又从词项—商品点击统计中构建 query 条件排序：训练时从 query 抽取关键词，与商品簇的代表词求交；命中多个词时，选择与该簇共现点击数最高的词来决定第三级 token，否则回退全局默认顺序。每个商品保留 4 条平行的第三级路径，因此同一商品可随 query 意图使用不同 SID。
VRM（Value-aware Ranking Module）复用生成骨干的 hidden states 形成用户表示，将候选 SID embedding 与商品侧信息通过 cross-attention 融合，分别预测 PV、CTR、CVR。线上用 PV×CTR 对 beam 候选重排，不再另起独立预排服务。生成损失是 pay/click/PV 多正样本的加权交叉熵，权重为 3/2/1；排序损失是三个任务的 BCE，总目标为 L_gen + λL_rank，λ=1。
训练分 Pre-SFT 与 SFT。Pre-SFT 包含编码、个性化、检索、协同、推荐 5 类任务，先学习文本/行为到 SID 的映射；SFT 将同一 session 的 pay、click、PV 正例装入一个样本，用 label 间 attention mask 防止串扰。数据来自淘宝两周超过 2 亿次用户交互，次日作测试集。SFT 使用 AdamW（β1=0.9、β2=0.999）、cosine 学习率 1e-4、batch size 256、10 个 warmup step。GRPO 另用 10 万 query 训练 2 epoch、batch size 16，但收益太小，未上线。
3. 核心技术贡献
第一，QP-SID 将价值感知前移到离散标识构建。与一商品一个全局 SID 不同，它利用较早 token 索引训练信号更充分的特性，把高价值且 query 相关的商品前置，HR@1000 相对 FORGE 提升 4.42%。这不是生成后的简单加权，而是改变模型学习的输出空间。
第二，VRM 在不重复编码上下文的前提下，把生成骨干与商品侧特征联合训练，用一个模型完成召回和预排。它在 HR@1000 上增益 3.73%，高于独立预排的 3.30%，且线上可跳过传统预排阶段。
第三，加权多正样本训练显式保留 pay > click > PV 的优先级，不把 session 互动拆成等价 pointwise 样本，使 HR@1000 从 0.7714 提至 0.7922。五任务 Pre-SFT 联合训练另带来 5.76% 收益，说明先补齐 SID 编码和检索子能力，再做个性化 SFT 更稳定。
4. 实验结果分析
| 方法 | HR@20 | HR@100 | HR@500 | HR@1000 | HR@5000 |
|---|
| FORGE SID | 0.4328 | 0.5863 | 0.7207 | 0.7735 | 0.8604 |
| QP-SID | 0.4635 | 0.6235 | 0.7669 | 0.8177 | 0.8961 |
| QP-SID + Pre-SFT | 0.4694 | 0.6340 | 0.7740 | 0.8222 | 0.8987 |
| 独立预排 | 0.4248 | 0.6264 | 0.8112 | 0.8552 | 0.8771 |
| RL | 0.4659 | 0.6420 | 0.7857 | 0.8277 | 0.9027 |
| VRM（TSGR） | 0.4586 | 0.6677 | 0.8250 | 0.8651 | 0.8953 |
QP-SID 将 HR@1000 从 0.7735 提到 0.8177，说明将价值写入 SID 比对旧 SID 候选事后重排更有效。VRM 的 HR@100/500/1000 最强，但 HR@5000 不如 RL，表明它更擅长将高价值正例前移，而不是无差别扩大长尾覆盖；这与线上只向排序传 top-1500 的目标一致。
消融暴露了两个失败模式。若训练标签用 query 条件 SID、输入历史仍用默认 SID，输入输出不一致会明显拉低 HR@100。另一方案给样本附加多路径标签，最终 99.8% 输出坍缩到 Default 路径。最终设计的 cluster、Level-3、整体命中率为 78.71/72.83/57.32，高于多路径方案的 77.20/71.90/55.50。VRM 中移除 item embedding 降幅最大，证明离散 SID 会丢失商品细节；mean pooling 或 EOS 替代 cross-attention 主要伤害 HR@20、对 HR@1000 较小，可作为低时延降级方案。
线上 A/B 覆盖淘宝搜索 1% 流量并持续 38 天。TSGR 返回 top-1500 后直接进入排序，IPV +0.43%、成交数 +1.12%、GMV +1.64%，均统计显著。服务运行在 NVIDIA H20，预算 80ms；三级 beam 为 [400,400,10000]，前两级用 prefix tree 约束，末级标准 beam search。
5. 局限与未来方向
论文没有独立 Limitations 章节，但明确报告了边界。GRPO 的基础增益仅 +0.02%，加入离线 DPO 与动态层级熵正则后累计约 +0.52%，因此未实际部署。query 条件路径依赖关键词和词—簇点击统计；评估序列中 61.42% 属于 No Hit，说明 query-aware 路由尚未覆盖全部请求。
作者未充分讨论的限制包括：证据主要来自中文电商搜索，而 UGC、新闻或非商业搜索的“价值”通常是时效、质量、多样性、安全的多目标组合；平行 SID 的稳定性、更新成本和目标冲突仍需实验。论文也未报告全量码本内存、每日重建成本，以及与多通道召回的候选重复率。
6. 工业实践意义
搜索推荐团队可以分三步试验。先在既有语义 ID 簇内增加一条业务价值排序路径，比较“价值写入 ID”和“生成后重排”。再只对高频 query 构建少量条件路径，监控命中覆盖、路径坍缩和近邻保持率。最后用生成骨干 hidden state 接轻量价值头，先影子打分，再判断能否安全跳过部分预排。
社区 UGC 搜索不应直接复制 PV×CTR。可将默认路径定义为长期内容质量，再按 query 意图构建时效、专业性、互动满意度等平行路径；VRM 则联合预测点击、长停留、二次搜索和负反馈，用约束多目标替代单一商业乘积。pay/click/PV 的 3/2/1 可替换为优质互动/点击/曝光，但应保留 label 间 mask。
部署上，H20 80ms、三级大 beam 和 top-1500 输出表明它仍是高算力方案。小团队应先作为单一召回通道，复用 GPU batching 与前缀约束，以候选增益、端到端时延和预排节省的净收益作为扩容门槛。论文最重要的生产证据，是生成式召回不仅提高离线命中率，还能在移除一个工程阶段的同时提升成交与 GMV。
Alibaba
Google