1. 问题与动机
这篇论文针对的是工业信息流推荐中的“用户明明表达了兴趣,系统却只能从点击和停留里猜”的结构性问题。传统线上排序可以写成根据用户历史行为、候选内容和上下文预测点击或停留概率,但用户没有一个能实时表达细粒度偏好的显式变量。因此,用户只能通过点击、不感兴趣、划走等粗粒度行为慢慢改变画像,无法直接说出“多看熟悉的创作者,但少看标题党”“保留科技内容,减少夸张的 AI 观点”这类混合约束。论文把这种不匹配称为 passive ranking 与 user agency 之间的鸿沟。
作者认为,将 LLM 直接放进推荐链路又会引入三类新的风险。第一,系统必须严格绑定生产目录,不能生成平台实际不存在或不可服务的 item;第二,对话是多轮的,用户可能在同一轮同时提出短期需求和长期兴趣,需要显式跟踪状态及冲突;第三,信息流吞吐高、延迟预算紧,系统必须让用户输入迅速改变排序,同时保住原有生产排序的稳定性。论文还用一个很具体的对照揭示传统信号的不足:在用户兴趣匹配与不匹配的内容段之间,传统 Show Less 概率的 P90 只有 0.208 对 0.199,差值 0.009;Show More 概率为 0.289 对 0.212,仍难形成可用的语义判别边界。这说明被动反馈特征很难直接执行新的、细粒度的语言偏好。
2. 方法详解
Shape Your Feed(SYF)不是让 LLM 从整个目录自由生成推荐,而是把 LLM 设计成位于成熟排序系统之上的结构化控制器。系统由 Perception Flow、Serving Flow 和 Self-Evolution Flow 三条流组成,并通过 Memory Persistence Layer 共享状态。
Perception Flow 先把文字、语音和 UI 操作统一为交互输入 I_t,再由编排器决定是否调用推荐工具链。推荐工具链包含意图检测、偏好合成和候选源三个模块。偏好合成把当前输入、旧的语义画像 S_(t-1) 和历史意图轨迹 T_(t-1) 合并为新的 S_t,其中明确做了四种操作:去重相似意图、强化重复主题、解决正负偏好的冲突,以及做语义扩展。系统同时写入 Intent Trajectory,保留跨会话的兴趣变化;如果新输入产生了正向兴趣增量 ΔS_t+,就异步启动候选源,从内容库存中检索候选,用轻量排序模型打分,按每个兴趣选择 Top-K,并写入 Candidate Cache。异步候选源把检索和刷新移出主服务路径,减少新意图带来的延迟抖动。
Serving Flow 是真正影响信息流列表的部分。它把候选的原始特征,如主题字符串、创作者信息和生产排序信号,解码为 LLM 可读的上下文,再将语义画像和候选池组成 P_align。候选池由线上生产候选 C_prod 与语义画像触发的缓存候选 C_aug 合并而成。模型以 list-wise 方式一次性输出候选的语义对齐分数,而不是对每个 item 独立调用一次 LLM。对不符合负向兴趣的候选,系统使用阈值 τ 做硬删除;对保留下来的候选,最终分数为 s_final = α × y_(v|S_t) + (1-α) × y_(u,v),前一项表示内容与显式语义画像的匹配,后一项是原有生产排序分数。这样既能处理“少看什么”的硬约束,也不会完全牺牲已有点击/停留质量。排序后系统为靠前内容生成简短的“因为你要求更多某主题”的确认文本,但推荐决策仍然依赖目录内候选。
Self-Evolution Flow 通过两条反馈路径更新系统。Agentic-to-Production Propagation 将语义画像、意图轨迹和用户—Agent—Feed 行为提炼成三类结构化先验:表示增强、早期检索增强和后期个性化。Dual-Feedback Policy Alignment 则把稀疏但高价值的真实用户行为与离线 LLM-as-a-Judge 标注结合起来。训练分为 SFT 和 DPO 两阶段:先用评审模型产生的列表标签建立基础策略,再用用户明确的喜欢/不喜欢等 chosen-rejected 对进行 DPO,不需要单独训练 reward model,也不需要线上 RL rollout。论文使用 Llama 4 Maverick 和 Qwen3-VL-235B-A22B 等开源评审模型做多数投票,评审结果与人工判断在多评审基准上的一致率为 96%。
训练配置给出了较清晰的工程边界。SFT 微调 Llama3-8B,使用单机 8 张 80GB GPU,batch size 为 1,learning rate 为 2e-5,每个 epoch 约需 2.5 个 GPU 小时;DPO 使用 2 台机器、每台 8 张 A100 80GB,batch size 为 4,learning rate 为 2e-6,训练 1 个完整 epoch。服务侧把高延迟的感知、候选刷新和离线演化与高吞吐的 Serving Flow 分开,Serving 使用较小模型做 list-wise 打分,避免把 70B 模型直接放进关键路径。
3. 核心技术贡献
第一,论文把“显式兴趣”建模为可编辑的半结构化状态,而不是把一段对话直接拼进 prompt。Semantic Profile 保存兴趣、反兴趣和强度,Intent Trajectory 保存时间变化,Candidate Cache 保存兴趣触发的候选。这样做的价值在于可审计、可更新、可回滚,用户下一次表达“少看某主题”时可以修改已有状态,而不是重新解释全部历史。
第二,SYF 将 agentic 能力限制在候选池的增强、裁剪和重排。候选仍来自生产库存,LLM 只对池内内容做语义判断,负向意图可通过阈值直接过滤,最终分数还保留原排序信号。这种设计把目录合法性、线上吞吐和显式控制放在同一条契约里,避免了自由生成 item ID 的幻觉风险。
第三,论文将稀疏真实反馈与高覆盖的评审模型标注组合起来。SFT 负责把模型拉到推荐任务分布,DPO 再用真实用户偏好收紧决策边界;评审模型只用于补齐缺失标签,而不是成为不可解释的线上决策者。实验中 SFT+DPO 的 F1 比 SFT 进一步高 2.5 个百分点,说明真实偏好对齐不是可有可无的后处理。
第四,系统层面采用异步候选源、list-wise 打分和三流解耦。候选刷新发生在用户语义状态改变之后,主路径只读取缓存并对生产候选做一次批量对齐;这让“更多内容”“少看某类内容”等输入能较快生效,又把最昂贵的 retrieval loop 和模型训练隔离开。论文的在线消融也证明,反馈胶囊主要提高信号收集,Serving Flow 才负责把信号转化为列表质量。
4. 实验结果分析
离线首先比较 few-shot、SFT 和 SFT+DPO。结果如下:
| 方法 | Accuracy | Precision | Recall | F1 | 延迟 |
|---|---|---|---|---|---|
| Few-shot baseline | 83.84% | 47.06% | 60.22% | 53.00% | 650 ms |
| SFT | 98.21% | 78.20% | 74.86% | 76.97% | 325 ms |
| SFT+DPO | 98.85% | 79.16% | 79.41% | 79.51% | 323 ms |
SFT 相比 few-shot 不只是准确率更高,延迟也从 650ms 降到 325ms;这说明把模型收敛到结构化对齐任务后,可以用单次 list-wise 预测替代更冗长的通用推理。DPO 在几乎不增加延迟的情况下,把 F1 从 76.97% 提到 79.51%,提升 2.54 个百分点,主要改善 recall 和负向意图边界。独立的人工作为黄金集,共有 1029 个标注样本,SFT+DPO 的 accuracy、precision、recall、F1 分别为 95.8%、75.6%、74.7%、75.1%,与自动评估接近,说明结果不完全是评审模型自我循环的产物。
与传统排序信号的比较更能说明方法解决的不是普通点击预测。匹配用户画像的内容和不匹配内容之间,传统 P90(CSL) 是 0.208 与 0.199,传统 P90(CSM) 是 0.289 与 0.212;而 SFT+DPO 在匹配/不匹配两组上的准确率分别是 79.4% 和 99.4%,能明显分开正向与负向语义约束。这里的 99.4% 不是整个推荐列表的 CTR,而是对语义对齐二分类的准确率,不能直接解读成线上点击提升。
线上实验覆盖美国和加拿大、18 岁以上用户的生产流量,持续数月,并只启用 Context-Aware Feedback Pills 以隔离界面变化。用户对语义反馈胶囊的选择占比为 76.02%,静态胶囊为 23.98%。全量 SYF 相对生产基线使 Post Dismiss 下降 1.70%,Post Dislike 下降 2.74%,新兴趣消费提升 0.16%。这些指标同时改善,说明收益不只是更容易点击反馈,而是减少了明确不喜欢的内容并扩大了新兴趣探索。
消融把 UI 与算法执行拆开:只有反馈胶囊时 UI Click 为 +3.30%,但 Post Dismiss 反而 +0.68%,Post Dislike 仅 -0.13%,Interest Consumption 为 -0.029%;完整系统对应 UI Click +2.90%、Post Dismiss -1.70%、Post Dislike -2.74%、Interest Consumption +0.16%。因此,胶囊只负责收集更好的监督信号,候选增强、负向裁剪和语义重排才是改善内容质量的原因。
系统效率是这篇工业工作的重要证据。对齐打分的主要耗时为 323ms,但通过并行与异步接入,关键路径额外延迟只有 +0.043%,直接 tier 延迟增加 +0.412%。这意味着绝对模型延迟仍不低,真正的工程技巧是把它隐藏在已有并行排序管线中,而不是声称 LLM 本身已经足够快。论文还报告 1B 模型语义对齐能力明显不足,70B 模型虽然精度更高却因内存和时延不能上关键路径,最终选择 8B 作为折中。
5. 局限与未来方向
作者明确指出的局限是主动输入稀疏。只有一部分用户会主动使用自然语言、语音或 UI 控件,沉默用户仍然主要依赖原有 baseline ranking。因此,SYF 的收益并不能直接外推到所有流量,系统还没有解决“没有反馈的人如何获得显式兴趣”的问题。作者给出的未来方向是在人生阶段或用户旅程发生变化时主动 elicitation,并用迁移学习把高信号用户的语义画像传播给低信号用户。
论文没有充分展开的工程限制也值得单独记录。第一,323ms 是对齐模型的主要推理成本,虽然额外关键路径只增加 0.043%,但并行调度、缓存命中和流量峰值下的尾延迟仍需独立压测。第二,评审模型 96% 的人工一致率并不等于无偏;对 UGC 内容中的讽刺、方言、敏感话题和创作者身份,judge 可能产生系统性偏差。第三,论文的线上实验限定为美国/加拿大、18 岁以上用户,且只开 Context-Aware Feedback Pills,跨语言、跨地区和跨入口的稳定性仍未知。第四,文中没有给出 α、τ、Candidate Cache 的容量与过期策略,真实业务必须处理兴趣冲突、内容删除和热点快速变化。
6. 工业实践意义
对社区 UGC 搜索/推荐,最值得复用的是“显式意图作为控制层,传统系统作为底座”的边界。可以在 query 理解或反馈入口把用户输入解析为正向主题、负向主题、强度和时间范围,写入可编辑的语义画像;对新增正向兴趣异步触发召回,生成候选缓存;在线只对缓存候选与原有候选做轻量 list-wise 对齐和重排。用户说“少看标题党”时,负向约束可以先经过规则/分类器硬过滤,再让模型处理语义边界;这样不会把安全与合规判断完全交给 LLM。
落地顺序应先做离线 replay 和小流量 A/B,而不是直接把通用大模型放到全量召回。第一阶段验证画像抽取的一致性、意图冲突率、缓存命中率和候选覆盖;第二阶段比较只收集反馈、反馈加重排、完整候选增强三种方案;第三阶段才考虑把高置信语义先验传播回基础召回和排序模型。线上指标除了 CTR/nDCG,还应监控 Post Dismiss、负反馈、长尾新帖覆盖、新兴趣消费、作者集中度和 P99。SYF 的消融已经说明,用户愿意点击控制按钮不代表推荐质量会自动提升。
对于 UGC 内容,语义画像需要有版本、来源和过期时间。每条兴趣记录应标明来自自然语言、语音、按钮还是行为推断,并允许用户删除;对敏感主题、身份属性和未成年人信号要设置单独的数据治理规则。Candidate Cache 不能把已删除、不可见或安全风险帖子继续送进 LLM 重排,所有候选仍需通过现有库存、权限、内容安全和去重层。
最后,SYF 的架构启示是把 LLM 预算花在“解释用户刚刚说了什么以及如何改变列表”上,而不是花在重复扫描全部内容。对高频搜索场景,可以用小模型完成 profile 更新和 list-wise 对齐,用更大的模型离线生成训练数据;对低信号用户,继续用传统召回和个性化排序兜底。只有当显式反馈真的带来 nDCG、CTR、满意度和负反馈的同步改善时,才扩大 Agent 覆盖范围。这样既能利用 LLM 的语义控制,又能保留成熟搜推系统的可观测性、回滚能力和成本边界。