Equip Pre-ranking with Target Attention by Residual Quantization (TARQ)

1. 问题与动机（约 320 字）

工业级推荐系统的多阶段链路里，粗排（pre-ranking）长期被卡在“效率压倒效果”的死结：精排可以用 Target Attention (TA) 类高算力交互模块（user 历史与 target item 的 fine-grained 交叉），但粗排候选量 N₁ >> N₂，必须靠双塔/向量内积这种 g-级别的轻量打分。文章给出量化对比：双塔基线 AUC 0.785；引入 cross-tower 交互的 IntTower / MVKE 把 AUC 抬到 0.787 / 0.789，说明交互信号确实能涨点，但已有方案仍把大量空间留在桌上。再做更强的交互又会突破粗排延迟预算（“full TA 需要为 tens of thousands of items per request 跑一遍 MHA”），因此 Taobao 团队提出 TARQ：能否在不超粗排延迟的前提下，把精排级 TA 的建模能力第一次塞进粗排？这直接对应淘宝主搜/推大盘上千亿样本的实际链路压力。

2. 方法详解（约 640 字）

核心思路：用 Residual Quantization (RQ) 把 user-target 交互离散化为“查表”。

• 量化对象：不是 Q/K/V，而是 target item 自身的表征 xᵢₜₑₘ。流程上先用 AutoEncoder 把 item embedding 压缩到隐空间，再做多级残差量化：第 l 级把残差 rₗ 投到最近的码本条目 ecₗˡ，更新 rₗ₊₁ = rₗ - ecₗˡ，最终得到一串 semantic ID s = [c₀, c₁, ..., c_{m-1}]。
• 配置：m = 8 个码本，每个 16 entries，每个请求只需处理 8 × 16 = 128 个向量，复杂度与候选池大小 N₁ 解耦。
• 个性化码本：对原始码本做 Multi-Head Attention（query 是 user 历史 Hˢᵉᵍ），生成 user-conditional 的 Ĉₗ。在线时通过 semantic ID 直接 lookup Ĉₗ[cₗ]，pooling 后得到近似 TA 输出 hᵣᵩ。
• 训练：teacher-student 框架。Teacher 是完整的 Target-Attention Net（离线），算出 ground-truth hₜₐᵣ = MHA(xᵢₜₑₘ, Hˢᵉᵍᵗᵃʳ, Hˢᵉᵍᵗᵃʳ)；Student 是 RQ-Attention Net（在线），通过个性化码本 lookup 近似。蒸馏损失 ℒ_distill = ||sg[hₜₐᵣ] - hᵣᵩ||²。
• 辅助 loss：AE 重建 ℒ_recon = ||xᵢₜₑₘ - x̂ᵢₜₑₘ||²、RQ 量化 ℒ_rq = Σₗ ||sg[rₗ] - ecₗˡ||²、主任务 CTR 二分类（ensemble 预测 ŷ = σ(ŷₜₜ + ŷᵣᵩ)）；权重 λ₁..λ₆ = (1.0, 1.0, 1.0, 0.1, 1.0, 0.8)。
• Codebook Alignment Loss：双向 KL 对齐 semantic ID 分布与 teacher 表征分布，把码本利用率从 59% 拉到 98%，这是防止 codebook collapse 的关键。

3. 核心技术贡献（约 420 字）

1. 首次把 RQ 这种“生成式检索”技术嫁接到判别式粗排里，用多级量化近似 TA 的复杂交互。区别于传统 VQ-VAE 用于 token 生成，这里 RQ 直接服务 CTR 预估的连续表征，是判别式应用的范式拓展。
2. Codebook Alignment Loss 解决 codebook collapse：纯 RQ 训练会有大量码字空闲（59% 利用率），双向 KL 对齐后利用率 98%，AUC 也从 0.795 涨到 0.796。这是 RQ-based 工业系统的通用问题，本文给出的解法可复用。
3. Teacher-Student 解耦：把昂贵的 TA 计算锁在离线训练，线上只剩 128 向量的 lookup + pooling。相比 IntTower / MVKE 这些“轻 cross-tower”方法，本方法的交互能力上限更高。
4. Ensemble 预测：把 RQ-Attention 分支与双塔分支的 logit 相加（ŷ = σ(ŷₜₜ + ŷᵣᵩ)），用双塔保底，用 RQ 加分，避免单分支训练不稳。

4. 实验结果分析（约 620 字）

数据：Taobao 618 大促日志，14.2B 交互、175M 用户、20M item；训练 19 天、测试 1 天。

离线 AUC：

消融验证：(a) RQ-Attention 单独贡献 +0.011 AUC；(b) 去掉 codebook alignment 掉到 0.795；(c) TAVQ 单码本（不分级 RQ）只到 0.792，证明多级 RQ 的必要性。

线上 A/B（Taobao 2025-06-13 至 06-20）：每组约 50w DAU/天，CTR +0.57% (p=0.0498)、CVR +4.59% (p<0.0001)、GMV +7.57% (p=0.0356)。CVR/GMV 涨幅远超 CTR，作者解释为选择偏置：模型按 CTR 训练，但生产链路全局目标是 GMV，曝光分布天然偏向高客单价 item，模型间接学到了 transaction 信号。

部署效果：已在淘宝主推全量，服务数千万 DAU。复现 repo 计划在 https://github.com/zyody/tarq_sigir2026。

5. 局限与未来方向（约 280 字）

作者明确承认的局限：

1. CVR/GMV 涨幅的“选择偏置”归因未做完全干净的因果验证——大盘 GMV 涨幅 7.57% 部分来自曝光集合本身高客单价；
2. 泛化范围：实验集中在淘宝电商 CTR/CVR，并未覆盖短视频、信息流、广告等其他场景，对长序列（>万 item）或稀疏用户的鲁棒性未测试；
3. 码本规模选择没有给出 scaling law。文中固定 8×16，但更大码本是否继续涨点缺乏系统性扫描。

笔者补充的隐含局限：teacher TA 需要在 14B 样本上跑完才能蒸馏，冷启动新场景的 ramp-up 成本高；个性化码本通过 MHA 生成，user tower 的算力实际上没被节省，只是 item 侧实现了 cheap lookup。

6. 工业实践意义（约 420 字）

对搜推工程团队的具体建议：

1. 粗排升级首选 RQ 思路：相比 IntTower/MVKE 这种“轻 cross-tower”增强，RQ 蒸馏能拿到 1.27% relative AUC 增益，且固定 128 向量的 online 开销可控。如果当前粗排还是 DSSM 双塔，TARQ 是一个高 ROI 的下一步。
2. Codebook Alignment 必须做：纯 RQ 训练 codebook collapse 严重（59% 利用率），双向 KL 对齐是这种范式落地的“必修课”。这条经验对 SemID 生成式推荐（TIGER/HSTU/OneRec 系列）同样适用。
3. 延迟预算：fixed 128 向量 lookup + pooling 比双塔约多 marginal overhead，离线压测做好压力测试即可上量。
4. 对社区搜索的迁移：可以把粗排的 query-doc 打分从 BM25/向量内积升级为 RQ-Attention，离线用 LLM-based 相关性做 teacher、在线用码本 lookup 做 student，既能注入 LLM 信号又不破坏粗排延迟。
5. 训练成本：teacher TA 训练成本不可忽视（14B 样本），但只跑一次即可蒸馏多个版本 student，长期看摊薄。
6. 代码可获取：作者承诺开源（SIGIR'26），可直接拿走 RQ-Attention + 蒸馏 trainer 模块。