1. 问题与动机
OneRec 系列生成式推荐模型已在快手短视频、直播、广告、本地生活等场景规模化部署,并验证了推荐场景的 scaling 律。但作者发现一个反直觉现象:把 LLM 领域成功的“先思考后回答”(think-before-answer) 范式直接搬到生成式推荐,思考模式 (thinking) 相比非思考模式 (non-thinking) 在推荐基准上并无显著优势。前期工作 OneRec-Think、OpenOneRec 虽能让“思考”泛化到推荐任务、可以观察模型对用户兴趣的推断逻辑,但收益不明显。根因在于:OneRec 只在纯 itemic 序列数据上训练,学到的是扁平的转移模式 (flat transition patterns),没有任何逻辑思考痕迹;而物品 token 本身是不透明 ID,无法构造有语义的 CoT。作者借鉴多模态 LLM 文献中“模态对齐不足 → 模型只读表层、不做真正推理”的结论,提出推理有效性取决于两根支柱:perception(把 itemic token 锚定到底层语言语义)与 cognition(把用户行为序列重组为连贯的潜在兴趣点 latent interest points)。
2. 方法详解
OneReason 从 Qwen3 backbone 续训,分预训练、SFT、RL 三阶段,配套 OneReason-Bench 评测,将开源 OneReason-8B 与 OneReason-0.8B。
(1) Itemic Tokenizer:用 ViT + Qwen3-VL + 音频编码器把封面图、视频帧、文本描述、音频蒸馏成 compact dense embedding,再把该 embedding 作为 soft prefix 接一个 decoder LLM 端到端优化;用 RQ-KMeans 量化,三层 codebook、每层 8192 码,每个物品表示为“一个 domain-aware begin token + 三个 sub-token”,如 <|domain_begin|><a_5028><b_6733><c_2559>,domain ∈ {video, prod, ad, living, sid}。与 OpenOneRec 不同,去掉尾部 end token,省下上下文长度留给推理链。
(2) 预训练:用 content-understanding 任务(而非对比学习)得到离散 itemic token,用 578B token 对齐 itemic-token 与 text-token 的语义空间;把语料重构成四粒度(从 token 级细粒度语义到用户行为粗粒度);采用三阶段配方——Stage 1 只调增量的 itemic-pattern 相关参数,Stage 2/3 全参微调(消融在 0.8B 模型、固定 30B token 预算上做)。
(3) SFT:设计标准化的 coarse-to-fine、逻辑连贯 CoT 结构,对应四级认知任务 R0 Perception(用显式语义解释 itemic pattern)→ R1 Derivation(从单物品语义推到物品间关系)→ R2 Evolution(把同一潜在兴趣的物品当时间过程推理)→ R3 Recommendation(连贯推理产出决策);R0 是感知地基,R1/R2/R3 是叠加其上的三级 cognition-enhanced CoT。
(4) RL “specialize-then-unify”:先用 recommendation-oriented GRPO 在 Ad/Product/video/living 四个域各自单独训练,得到四个域专家 teacher——GRPO 对用户 u 的 query q 采样一组 rollout(每条含 CoT 推理 + 生成 itemic token),用 outcome reward(生成 token 是否命中目标物品)在组内归一化算相对优势;再用两种方式统一:RFT(拒绝采样微调,在 teacher 高质量轨迹上精调)或 MOPD(多教师在线策略蒸馏,在 student 自己生成的轨迹上蒸馏多域策略),MOPD 带来思考能力与性能的同步提升 (synchronized uplift)。
3. 核心技术贡献
- 首次让“思考模式持续优于非思考模式”在推荐下游基准上成立——此前 OneRec-Think/OpenOneRec 都做不到。机制是先解决 perception(token 语义对齐)再叠加结构化 cognition CoT,缺一不可。
- itemic tokenizer 的设计取舍:用内容理解任务而非对比学习取离散 token、去掉 end token 节省上下文、578B token 做模态对齐,使物品 token 成为“可指代、可组合的语义单元”而非不透明 ID。
- specialize-then-unify RL 配方:用 GRPO 在每个业务域先专精,再用 RFT/MOPD 统一,解决多业务域奖励地形 (reward landscape) 不一致、直接混合训练相互干扰的问题。
- 一个迁移现象:把普通 unCoT 数据替换成 CoT 监督数据,能改善若干域的非思考(直接解码)推理——CoT 监督的部分收益可迁移到不开思考的线上快路径,对工业低延迟部署有直接价值。
- OneReason-Bench:把推理任务组织成 Perception/Derivation/Evolution/Recommendation 渐进层级,便于定位模型在哪一层认知掉链子。
4. 实验结果分析
离线:OneReason-8B 在多个真实推荐基准上 SOTA,对比 TIGER、LC-Rec-SFT-Only-8B/14B、LC-Rec-PT-SFT-8B 等基线各项指标明显更高;同时相比 Qwen3-8B 保持通用能力(general-intelligence sanity check)。
在线:快手本地生活广告场景做 10 天 A/B,treatment/control 各 5% 流量,采用 Fast-Slow Thinking 架构。
- Table 18(Impressions / Revenue):单独用 OneReason 直接做检索(slow pipeline)+0.940% / +4.528%;用 OneReason 增强实时 OneRec(fast pipeline)+6.831% / +4.636%;两者联合(Combined)+10.332% / +8.234%。Revenue 指线上广告系统总商业收入,折合年化数亿元 RMB,且算力消耗/收入比 ROI > 5。
- Table 19 拆解效率(Conv./Click/CVR/CTR/检索占比 Retr.Share):OneReason +5.870% / +3.986% / +4.516% / +2.497% / 3.8%;OneReason for OneRec +7.935% / +0.207% / +0.459% / +0.195% / 22.1%;Combined +12.643% / +1.709% / +1.865% / +0.519% / 27.2%。结论:slow pipeline 靠更好的语义匹配提升流量效率(转化/点击率),fast pipeline 靠扩大检索覆盖提升系统规模(检索占比 3.8% → 22.1%)。
- Table 20 分人群(Impressions / Revenue):活跃用户 +0.763% / +2.419%、中活 +0.902% / +4.815%、低活 +1.125% / +13.323%。收益随活跃度下降而增大,低活用户收益最大——推理通过整合用户画像、有限行为与内容语义做“兴趣补全”,在稀疏交互下尤其有效。
5. 局限与未来方向
作者明确指出的局限:CoT 监督能改善非思考解码这一现象目前只是行为层面的观察 (behavioral evidence),无法区分收益来自压缩 (compression)、推理 (reasoning) 还是两者交互,需要进一步消融才能做因果分离;且这是一份“work in progress”技术报告。未来方向:(1) 更稳定的在线增量学习,在适应新知识语料与用户兴趣漂移的同时,避免退化指令遵循与通用能力;(2) 针对业务约束定制解码/生成策略,在吞吐、延迟、质量、业务价值间取得更好平衡;(3) 从“思考-回答”走向具备规划与工具调用的 agentic 推荐基础模型。
6. 工业实践意义
- 别指望直接加 CoT:在 semantic ID / 生成式推荐里照搬 LLM 的 thinking 范式收益有限,必须先用大规模 token-文本语义对齐(本文 578B token)把物品 token 变成有语义的单元,再上结构化 CoT,否则思考模式不如非思考。
- Fast-Slow 双路径部署值得借鉴:nearline 慢思考(完整 OneReason 直接检索)负责语义匹配与流量效率,online 快思考(把 OneReason 的相关 itemic token 转 embedding,用一个专门的 Thinking Token 蒸馏进实时 OneRec)负责低延迟与覆盖扩展;二者互补,把慢思考知识蒸馏进快路径规避了大模型直接在线推理的延迟问题。
- 低活/冷启动场景优先:A/B 显示推理对低活用户收益最大(Revenue +13.323%),因为它能用画像 + 内容语义补全稀疏行为,这对社区搜索里行为稀疏的长尾/新用户有直接启发。
- “用 CoT 数据训练、线上不开思考”是一条务实路线:CoT 监督的部分收益能迁移到直接解码,可在不增加线上推理成本的前提下吃到训练侧红利。
- 评测先行:把推理能力拆成 Perception → Derivation → Evolution → Recommendation 渐进基准,便于定位模型在哪一层认知掉链子。