Implicit Reasoning for Large Language Model-based Generative Recommendation
针对 LLM 做生成式推荐(GR)时用 Semantic ID 表示物品、破坏 LLM 自然语言推理接口的问题,论文系统拆解显式推理(CoT + rationale)训练流程,指出三大缺陷:世界知识表达被削弱、SID 与自然语言 token embedding 空间错位、对 rationale 质量敏感。据此提出轻量隐式推理范式 PauseRec,无需采集推理链、无需推理对齐训练。结果:相比标准显式 CoT 方法效果最高提升 6.22%,训练 GPU 时长最多降低 65%,推理速度最高提升 71.3%。
INSIGHT该工作给出一个反直觉但实用的结论——在生成式推荐里强行让 LLM 产出显式 rationale,反而因 SID 与自然语言空间错位而受损,隐式“停顿”推理用更低成本拿到更好效果。对落地 LLM4Rec 的团队:可优先尝试隐式推理而非昂贵的 CoT 蒸馏管线,省下的 65% 训练与 71% 推理开销对线上时延敏感场景尤为关键。也印证 SID 词表与 LLM 原生词表的对齐是 GR 的核心瓶颈。