Bridging Passive and Active: Enhancing Conversation Starter Recommendation via Active Expression Modeling

1. 问题与动机

论文研究的是会话式搜索开始之前的 Conversation Starter 推荐：系统从预先构建的候选库中为用户挑选若干查询建议，帮助用户发起对话。传统做法把它当成普通 Top-K 推荐，完全依赖候选被曝光后的点击训练。作者指出，这形成了“曝光—点击—再训练”的自循环：模型只能学到自己曾经展示过的内容，用户没看到的开放意图永远进不了监督信号。在其生产系统中，最热门的 1% Starter 占总曝光的 70%，说明闭环已明显把分布推向通用、平庸的头部查询。

会话搜索与电商商品推荐的差异在于，用户可以绕过候选菜单直接键入自由文本。主动 query 是用户显式探索开放世界的信号，比被动点击更接近真实意图，但直接加入训练会遇到两个具体障碍。第一，主动 query 往往口语化、未规范化且来自无限开放空间，而 Starter 是编辑良好的封闭候选，二者存在严重样本选择偏差。第二，自由文本近乎条条唯一，没有稳定 item ID；工业界常用的 LogQ 采样偏差校正需要统计每个 item 的流式频率，套到 query 上会退化为几乎一致的 1/N。论文要解决的不是“多加一种特征”，而是如何把开放文本监督安全地迁移到可低延迟召回的封闭候选库。

2. 方法详解

PA-Bridge 保留生产友好的双塔骨架。用户塔 ΦU 编码用户特征，查询塔 ΦQ 以预训练语言模型编码主动 query 或 Starter 文本，用户与 query 的分数是两向量内积。基础训练使用 batch 内负采样的交叉熵：对一个 batch 中每个用户的正 query，分子是其正样本内积经温度缩放后的指数，分母是该用户与 batch 内全部 query 的指数和。这一结构允许候选向量离线预计算，线上继续走 ANN，而不是让 LLM 进入请求路径。

第一个新增组件是 Distribution Aligner。查询塔先产生文本向量 z，随后用两层 MLP 形式的 Intent Mapper G 把主动 query 和被动 Starter 投影到共享意图空间；另一个两层 MLP 作为域判别器 D，预测表征来自主动域还是 Starter 域。训练采用经典极小极大目标：D 尽量分清两个域，G 则让二者不可分。这样保留下来的不是措辞风格，而是两类文本共同表达的潜在意图。论文的关键消融也证明，简单把主动 query 当正样本会让 AUC 从基础模型的 60.58% 降到 58.94%，说明不做对齐的数据扩充反而有害。

第二个组件是 Semantic Discretizer。作者用 RQ-VAE 将连续意图向量逐级量化成 3 个 code index，得到有限的 Semantic ID 序列 c={c1,c2,c3}。系统可在流式训练中统计每个 code 组合的频率 P(c)，以语义簇频率近似高维空间密度。损失在每个 logit 上减去 log P(c)，把 item-ID 版本的 LogQ correction 延伸到非 ID 文本。样本权重 β=1-D(G(z)) 来自域判别器，表示当前样本更接近 Starter 域的程度；离封闭候选分布过远的主动 query 不会被等权硬塞进训练。最终目标是去偏推荐损失与对抗损失的加权和，λ 控制域对齐强度。

实验数据来自平台连续 90 天生产日志，共 72 亿条样本。测试集严格只保留 Starter 候选，避免用主动 query 作为测试目标造成与线上不一致。所有基线共享同一用户塔和特征，比较 ID 检索、纯语义双塔、直接混入主动 query、移除对齐、移除重加权与完整模型。论文没有报告优化器、学习率、batch size、RQ-VAE codebook 大小、训练步数、硬件或总训练成本；这些复现所需信息不能从正文推断。

3. 核心技术贡献

第一项贡献是把“用户主动表达”定义成打破推荐闭环的外生监督，而不是继续在系统曝光集合内调采样。它把开放查询中的长尾兴趣引入 Starter 推荐，同时保持最终输出仍来自经过审核和预编码的封闭候选库。相比直接生成 query，这种做法保留了召回速度、内容控制和线上可回滚性。

第二项贡献是把域适配与采样去偏拆成两个互补问题。对抗式 Aligner 解决主动文本与候选文本的表面分布差异；RQ-VAE Semantic ID 解决自由文本无法统计 item 频率的问题。少任何一个组件都明显退化：去掉对齐仅得到 60.71% AUC，去掉重加权降到 58.00%，而完整模型为 64.65%。这说明“共享语义空间”本身不等于“可无偏学习”，两步都需要。

第三项贡献是提供生产闭环证据。作者不只报告 AUC，还观察曝光和点击的唯一 query 数量，直接验证系统是否走出头部回音室。独特曝光 query 增加 30.65%，独特点击 query 增加 56.50%，说明多样性扩张并非只制造无人点击的尾部内容。相较此前主要在对话中生成追问、澄清或引导话题的工作，PA-Bridge 聚焦对话开始前，并坚持检索式范式以满足延迟要求。

4. 实验结果分析

离线结果如下。论文表格把完整模型相对提升写为 6.72%，而引言写 6.27%；按 64.65 与 60.58 计算，相对增幅约 6.72%，因此 6.27% 更可能是正文笔误。

ID 模型低于语义双塔，符合 query ID 稀疏且容易记忆历史曝光的特点。直接混入主动 query 比基础模型低 2.71%，是论文最重要的反例：主动监督虽更丰富，但开放域和封闭域的条件分布不同，错误混训会把 query 塔拉离候选空间。去掉对齐只比基础模型高 0.21%，说明域适配承担主要迁移作用；去掉重加权甚至比直接混训更差，表明长尾主动 query 在 batch 内负采样中会产生严重频率偏差。

线上 A/B 结果显示，用户活跃天数提升 0.04%，Starter 功能渗透率提升 0.54%，独特曝光 query 数提升 30.65%，独特点击 query 数提升 56.50%。对成熟大规模产品，0.04% 留存类指标可能有业务意义，但论文没有给出实验持续时间、样本量、置信区间或显著性检验，不能独立复核稳定性。多样性指标的增幅远高于活跃指标，说明模型首先改变了候选分布，长期留存收益仍需更长窗口验证。

论文只以 AUC 作为离线主指标，没有给 Recall@K、NDCG、校准、分人群结果和长尾意图覆盖率。也没有展示 RQ-VAE 层数、codebook、λ、温度 τ 的敏感性，无法判断提升对量化容量或对抗训练稳定性的依赖。尽管如此，72 亿样本、严格限制为线上 Starter 候选的测试协议，以及完整线上部署，比只在公开小数据集验证更接近真实工程风险。

5. 局限与未来方向

论文没有单独的 Limitations 章节，也未在结论中列出明确未来工作。作者明确说明目前缺少同时包含主动 query 与 Starter 的公开数据集，因此全部实验依赖单一平台私有日志；这限制了外部复现和跨产品泛化判断。正文也未披露优化器、batch、硬件、训练时长、RQ-VAE 码本规模和线上实验统计口径，属于方法复现的实质缺口。

作者未讨论的明显边界包括：主动 query 可能包含隐私、敏感意图与安全风险，进入用户表征前需要权限、脱敏和保留期限治理；对抗域适配可能掩盖真正有用的域特征，训练也可能不稳定；语义量化会合并细粒度差异，codebook 过小造成意图碰撞，过大又让频率统计重新稀疏。β 由域判别器产生，若判别器校准不佳，样本权重会系统偏移。

线上只报告整体指标，尚未说明新用户、低活用户、语言、地区和敏感人群是否一致受益。模型仍从封闭 Starter 库输出，能否覆盖主动 query 揭示的新意图取决于候选库刷新机制；如果候选生成不跟进，对齐只能把开放意图投影到最近的旧候选。未来实践应把“发现新意图—审核生成候选—更新向量索引—监控分布”纳入完整闭环，而不是只优化双塔。

6. 工业实践意义

对搜索推荐团队，最值得复制的是信号分层。可把用户行为分为系统诱导的被动信号和用户自主产生的主动信号：点击、停留受曝光强烈影响，手输 query、改写、收藏和关注更接近显式意图。训练前先测两域分布差异，建立只含合法候选的时间切分测试集；若直接混训下降，应先做共享意图对齐，而不是继续调主动样本权重。

社区 UGC 搜索可以复用同一结构：用户塔编码近期搜索、浏览和互动，帖子主题词或查询建议走文本塔；主动 query 经过离线 LM 编码和 MLP 对齐，再用 RQ-VAE 生成语义 ID。Semantic ID 可同时服务频率校正、长尾采样、聚类分析和候选运营。线上仍用 ANN 从经过审核的 query 建议或内容候选中召回，不需要请求时调用大模型。建议先以 1% 影子流量测 AUC、Recall@K、NDCG、建议点击率、搜索后成功率、唯一意图覆盖与负反馈，再逐步扩大。

部署时要把三个风险单独监控：域判别准确率若长期接近 100%，说明对齐失败；若瞬间接近 50% 且推荐效果下降，可能是表示坍塌。Semantic ID 需监控 code 使用率、碰撞率、尾部 code 样本量和漂移；LogQ 校正需设最大幅度，避免极低频簇被过度抬升。主动 query 的隐私和内容安全应在进入训练前完成脱敏、过滤与最小化存储。

还应建立候选库补全流程：从高频但无合适 Starter 的语义簇中抽样，由人工或受控生成模型产出候选，经过安全审核后入库。这样 PA-Bridge 才真正把开放世界需求转成可服务的封闭候选，而不只是重排旧模板。论文的线上结果提示，覆盖和多样性会先显著变化，留存提升较小；业务评估应采用数周以上观察窗，防止把短期新鲜感当作长期个性化收益。