← 全部深度解读
📖 深度解读 · GENERATIVE

TSGR: Taobao Search Generative Retrieval

Tianyu Zhan, Gui Ling, Tong Xiong, Kunhai Lin, Yang Wang, Kaixuan Zhang, Zhihong Chen, Yuliang Yan, Dan Ou, Shengyu Zhan... · Alibaba · arXiv 2607.18796 · 发表 Wed, 22 Jul 2026 00:00:00 -0400
8 分钟阅读时长 3085字 4.65综合分 第 1 名07-23 Generative 日报
目录 · 6 节1问题与动机2方法详解3核心技术贡献4实验结果分析5局限与未来方向6工业实践意义
相关 5新颖 4实用 5证据 5时效 5
生成式召回要进入生产,语义 ID 不能只表达内容相似度,还应把查询条件下的价值顺序编码进去;同时让同一自回归模型承担召回和预排,可减少阶段间目标错位。对社区搜索可把内容质量、时效、互动价值等统计融入并行码本,再通过渐进训练依次对齐相关性、用户偏好与业务目标。

1. 问题与动机

论文指出工业生成式检索与真实商业目标存在结构性错位。现有方法通常用多模态语义向量构建全局固定的 Semantic ID,再按 token 概率做 beam search;这能优化语义相似,却不知道同一商品在不同 query 下的价值差异,也无法在动态生成候选前预取丰富的商品侧特征。两个商品可能同样相关,但点击、转化和 GMV 价值显著不同。若高价值商品没进入候选集,后续排序再强也无法挽回。

TSGR 将问题拆成两层:在表示层让 SID 感知 query 与商业价值,在输出层让生成模型同时承担预排。作者不只验证离线 HR,还在淘宝搜索上用 IPV、成交数和 GMV 检验收益,这使工作区别于仅证明语义 ID 可行的学术方案。

2. 方法详解

TSGR 以 Qwen2.5-0.5B 为生成骨干,输出三级 SID。前两级是语义码本:先用 8100 多个类目的商品平均向量初始化第一级,再对“簇中心减类目中心”的残差做 RQ-KMeans。原始四级结构会增加解码成本和级联错误,作者将前两级合并,最终码本规模为 32768×8192×8192。

第三级是 QP-SID 的“效率码本”。在每个语义簇内,默认路径按过去 30 天点击数排序,高价值商品获得更靠前的 token 索引。系统又从词项—商品点击统计中构建 query 条件排序:训练时从 query 抽取关键词,与商品簇的代表词求交;命中多个词时,选择与该簇共现点击数最高的词来决定第三级 token,否则回退全局默认顺序。每个商品保留 4 条平行的第三级路径,因此同一商品可随 query 意图使用不同 SID。

VRM(Value-aware Ranking Module)复用生成骨干的 hidden states 形成用户表示,将候选 SID embedding 与商品侧信息通过 cross-attention 融合,分别预测 PV、CTR、CVR。线上用 PV×CTR 对 beam 候选重排,不再另起独立预排服务。生成损失是 pay/click/PV 多正样本的加权交叉熵,权重为 3/2/1;排序损失是三个任务的 BCE,总目标为 L_gen + λL_rank,λ=1。

训练分 Pre-SFT 与 SFT。Pre-SFT 包含编码、个性化、检索、协同、推荐 5 类任务,先学习文本/行为到 SID 的映射;SFT 将同一 session 的 pay、click、PV 正例装入一个样本,用 label 间 attention mask 防止串扰。数据来自淘宝两周超过 2 亿次用户交互,次日作测试集。SFT 使用 AdamW(β1=0.9、β2=0.999)、cosine 学习率 1e-4、batch size 256、10 个 warmup step。GRPO 另用 10 万 query 训练 2 epoch、batch size 16,但收益太小,未上线。

3. 核心技术贡献

第一,QP-SID 将价值感知前移到离散标识构建。与一商品一个全局 SID 不同,它利用较早 token 索引训练信号更充分的特性,把高价值且 query 相关的商品前置,HR@1000 相对 FORGE 提升 4.42%。这不是生成后的简单加权,而是改变模型学习的输出空间。

第二,VRM 在不重复编码上下文的前提下,把生成骨干与商品侧特征联合训练,用一个模型完成召回和预排。它在 HR@1000 上增益 3.73%,高于独立预排的 3.30%,且线上可跳过传统预排阶段。

第三,加权多正样本训练显式保留 pay > click > PV 的优先级,不把 session 互动拆成等价 pointwise 样本,使 HR@1000 从 0.7714 提至 0.7922。五任务 Pre-SFT 联合训练另带来 5.76% 收益,说明先补齐 SID 编码和检索子能力,再做个性化 SFT 更稳定。

4. 实验结果分析

方法HR@20HR@100HR@500HR@1000HR@5000
FORGE SID0.43280.58630.72070.77350.8604
QP-SID0.46350.62350.76690.81770.8961
QP-SID + Pre-SFT0.46940.63400.77400.82220.8987
独立预排0.42480.62640.81120.85520.8771
RL0.46590.64200.78570.82770.9027
VRM(TSGR)0.45860.66770.82500.86510.8953

QP-SID 将 HR@1000 从 0.7735 提到 0.8177,说明将价值写入 SID 比对旧 SID 候选事后重排更有效。VRM 的 HR@100/500/1000 最强,但 HR@5000 不如 RL,表明它更擅长将高价值正例前移,而不是无差别扩大长尾覆盖;这与线上只向排序传 top-1500 的目标一致。

消融暴露了两个失败模式。若训练标签用 query 条件 SID、输入历史仍用默认 SID,输入输出不一致会明显拉低 HR@100。另一方案给样本附加多路径标签,最终 99.8% 输出坍缩到 Default 路径。最终设计的 cluster、Level-3、整体命中率为 78.71/72.83/57.32,高于多路径方案的 77.20/71.90/55.50。VRM 中移除 item embedding 降幅最大,证明离散 SID 会丢失商品细节;mean pooling 或 EOS 替代 cross-attention 主要伤害 HR@20、对 HR@1000 较小,可作为低时延降级方案。

线上 A/B 覆盖淘宝搜索 1% 流量并持续 38 天。TSGR 返回 top-1500 后直接进入排序,IPV +0.43%、成交数 +1.12%、GMV +1.64%,均统计显著。服务运行在 NVIDIA H20,预算 80ms;三级 beam 为 [400,400,10000],前两级用 prefix tree 约束,末级标准 beam search。

5. 局限与未来方向

论文没有独立 Limitations 章节,但明确报告了边界。GRPO 的基础增益仅 +0.02%,加入离线 DPO 与动态层级熵正则后累计约 +0.52%,因此未实际部署。query 条件路径依赖关键词和词—簇点击统计;评估序列中 61.42% 属于 No Hit,说明 query-aware 路由尚未覆盖全部请求。

作者未充分讨论的限制包括:证据主要来自中文电商搜索,而 UGC、新闻或非商业搜索的“价值”通常是时效、质量、多样性、安全的多目标组合;平行 SID 的稳定性、更新成本和目标冲突仍需实验。论文也未报告全量码本内存、每日重建成本,以及与多通道召回的候选重复率。

6. 工业实践意义

搜索推荐团队可以分三步试验。先在既有语义 ID 簇内增加一条业务价值排序路径,比较“价值写入 ID”和“生成后重排”。再只对高频 query 构建少量条件路径,监控命中覆盖、路径坍缩和近邻保持率。最后用生成骨干 hidden state 接轻量价值头,先影子打分,再判断能否安全跳过部分预排。

社区 UGC 搜索不应直接复制 PV×CTR。可将默认路径定义为长期内容质量,再按 query 意图构建时效、专业性、互动满意度等平行路径;VRM 则联合预测点击、长停留、二次搜索和负反馈,用约束多目标替代单一商业乘积。pay/click/PV 的 3/2/1 可替换为优质互动/点击/曝光,但应保留 label 间 mask。

部署上,H20 80ms、三级大 beam 和 top-1500 输出表明它仍是高算力方案。小团队应先作为单一召回通道,复用 GPU batching 与前缀约束,以候选增益、端到端时延和预排节省的净收益作为扩容门槛。论文最重要的生产证据,是生成式召回不仅提高离线命中率,还能在移除一个工程阶段的同时提升成交与 GMV。

← 全部深度解读 出现于报告:2026-07-23 · Generative #1 (4.65) 原文 ↗