Mining Deep Multi-Interest Using Multi-Modal LLMs for Generative Recommendation
1. 问题与动机
本文瞄准的核心问题是生成式推荐（Generative Recommendation）中的 「浅兴趣」（Shallow Interest）问题。
现有生成式推荐方法（如 TIGER、LC-Rec、MiniOneRec）在将 item 编码为 Semantic ID（SID）时，仅依赖 标题（title）和简短描述（description） 等浅层文本特征。这导致两个层面的缺陷：
- Item 表征层面：SID 只编码了表面属性（如品牌、品类），无法捕获 item 背后隐含的深层语义（如使用场景、风格偏好、生活方式暗示）。例如，一款露营帐篷的标题只反映"帐篷"这个品类，但用户购买它可能暗示"户外探险生活方式"这一深层兴趣。
- 用户建模层面：基于浅层 item 表征的用户序列建模，只能挖掘出浅层的兴趣模式（如"买了 A 品类再买 B 品类"），无法挖掘跨域、跨品类的深层兴趣迁移。
为什么重要？ 生成式推荐是当前推荐系统的前沿范式，其核心优势是通过 LLM 的世界知识实现更好的泛化。但如果 item 表征本身是浅层的，LLM 的推理能力就被浪费在了浅层 pattern matching 上，等于"大炮打蚊子"。解决 Shallow Interest 问题，才能真正释放 LLM 在推荐场景中的潜力。
2. 方法概述
DeepInterestGR 提出了一个 三模块 + 两阶段训练 的框架：
三个核心模块
- MLIM（Multi-LLM Interest Mining）：使用多个前沿 LLM（GPT-5.1、Gemini-3-Pro、Kimi-K2-Thinking、Grok-4）通过 Chain-of-Thought 提示，从 item 的标题、描述、图片中挖掘深层兴趣标签。多个 LLM 的结果通过共识机制聚合——至少 2 个 LLM 同时输出的兴趣才被保留，再按出现频率和置信度排序。
- RLDI（Reward-Labeled Deep Interest）：用一个轻量级 LLM 分类器（Qwen2.5-7B-Instruct，zero-shot）对挖掘出的兴趣进行质量标注——"具体、可操作、真实" 标记为正，"模糊、泛化、幻觉" 标记为负。经 500 样本人工验证，与人工标注一致率 87.2%。
- IEID（Interest-Enhanced Item Discretization）：将筛选后的深层兴趣通过 Qwen3-Embedding-4B 编码为 embedding，再用 RQ-VAE 量化为 SID（4 层、每层 256 码本），使 item 的离散编码中融入了深层兴趣语义。
两阶段训练
- Stage 1 — SFT：在 Qwen2.5-7B-Instruct 上做监督微调，学习从用户交互序列预测目标 item 的 SID。
- Stage 2 — RL（GRPO）：使用兴趣感知奖励函数进行强化学习优化。奖励 = 基础命中奖励 + α × 兴趣质量奖励（α=0.5），其中兴趣质量来自 RLDI 标签。通过 GRPO 归一化优势估计，鼓励模型生成与高质量深层兴趣对齐的推荐。
3. 核心技术贡献
贡献一：显式定义并解决 "Shallow Interest" 问题
这是本文最重要的概念贡献。之前的工作虽然在 item 编码上做了各种改进（如 LC-Rec 的多层量化、MiniOneRec 的多模态对齐），但没有人从"兴趣深度"的角度去审视问题。本文清晰地指出：问题不在于量化方法，而在于输入到量化器的特征太浅。
贡献二：Multi-LLM 共识挖掘
与简单调用单个 LLM 不同，本文的多 LLM 共识机制有两个关键优势：
- 降低幻觉：单个 LLM 容易产生 hallucination，但多个 LLM 同时输出相同兴趣的概率极低，除非该兴趣确实有据可依。实验证明 ensemble 的 Interest Quality 为 0.891，远高于任何单个 LLM（最高 0.847）。
- 多元视角：不同 LLM 有不同的训练数据和偏好，能从不同角度挖掘兴趣。
贡献三：兴趣质量感知的 RL 奖励设计
将 RLDI 标签融入 RL 奖励函数是一个巧妙的设计。传统 RL 在推荐中的奖励通常只看"推荐对不对"（命中 ground truth），但本文额外奖励"推荐路径是否经过高质量兴趣"，相当于在奖励信号中注入了 过程监督（process supervision） 的思想。
与现有方法的关键区别
| 维度 | TIGER/LC-Rec | MiniOneRec | DeepInterestGR |
|---|---|---|---|
| Item 特征 | 标题文本 | 标题+图片 | 标题+描述+图片+深层兴趣 |
| 兴趣挖掘 | 无 | 无 | 多 LLM CoT + 共识 |
| 量化输入 | 文本 embedding | 多模态 embedding | 兴趣增强 embedding |
| RL 奖励 | 无/简单命中 | 无 | 兴趣感知奖励 |
4. 实验结果分析
主实验
在 Amazon Review 三个数据集（Beauty、Sports、Instruments）上，DeepInterestGR 相对最强 baseline（MiniOneRec）取得了 9.2%—15.1% 的相对提升：
- Beauty：HR@10 从 0.0945 → 0.1032（+9.2%），NDCG@10 从 0.0502 → 0.0558（+11.2%）
- Sports：HR@10 从 0.0627 → 0.0703（+12.1%），NDCG@10 从 0.0330 → 0.0376（+13.9%）
- Instruments：HR@10 从 0.0878 → 0.0972（+10.7%），NDCG@10 从 0.0455 → 0.0513（+12.7%）
Sports 数据集提升最大，可能因为运动品类的"深层兴趣"（如运动类型、健身目标、运动水平）比美妆品类更具区分性。
消融实验（关键发现）
在 Beauty 数据集上的消融分析揭示了各组件的重要性排序：
- 去掉 RL（-16.4% HR@5）：RL 阶段是最关键的，说明 SFT 不足以充分利用深层兴趣信号。
- 去掉 MLIM（-11.8% HR@5）：深层兴趣挖掘本身是第二重要的组件。
- 去掉 IEID（-8.4% HR@5）：兴趣增强的 SID 编码有显著贡献。
- 去掉兴趣感知奖励（-6.3% HR@5）：即使保留 RL，去掉兴趣质量信号也会明显下降。
多模态 vs 纯文本
加入视觉特征带来 5.0%—5.8% 的额外提升，说明图片中确实包含标题/描述中未体现的兴趣信息（如产品外观风格、使用场景暗示）。
跨域泛化
最令人印象深刻的结果：在跨域迁移实验中（如 Beauty 训练 → Sports 测试），DeepInterestGR 相对 MiniOneRec 取得了 HR@10 +24.8%、NDCG@10 +27.3% 的平均提升。这强有力地验证了"深层兴趣"具有跨域迁移能力——浅层特征（品类、品牌）无法跨域迁移，但深层兴趣（"追求品质生活"、"注重性价比"）可以。
5. 局限与未来方向
当前局限
- 计算成本高昂：MLIM 需要调用 4 个前沿 LLM API（GPT-5.1、Gemini-3-Pro 等），每个 item 都需要多轮 CoT 推理。对于大规模工业数据集（百万级 item），这笔 API 费用和延迟是不可忽视的。论文未讨论具体的计算开销。
- 数据集规模有限：三个 Amazon 数据集最大仅 ~35K 用户、~18K item，与工业场景（千万级用户、百万级 item）差距巨大。在大规模稀疏场景下，深层兴趣挖掘的效果可能不同。
- 离线兴趣挖掘的时效性问题：MLIM 是一次性的离线挖掘过程，无法捕获用户兴趣的实时变化。用户的深层兴趣可能随季节、生活阶段等动态变化。
- 对 LLM 质量的强依赖：方法效果高度依赖前沿 LLM 的能力。如果换成较弱的开源模型，兴趣挖掘质量可能大幅下降。
- 评估局限：仅在 leave-last-out 协议下评估，且绝对指标偏低（HR@10 ~ 0.07-0.10），说明整体推荐准确性仍有较大提升空间。
未来方向
- 兴趣蒸馏：将前沿 LLM 挖掘的深层兴趣蒸馏到轻量级本地模型中，降低推理成本。
- 在线增量挖掘：结合流式学习，在用户新交互到来时增量更新深层兴趣表征。
- 兴趣层次建模：当前的深层兴趣是扁平的标签列表，未来可以构建层次化的兴趣树（如"户外运动" → "登山" → "高海拔登山"），支持不同粒度的推荐。
- 更大规模验证：在工业级数据集和实际 A/B 测试中验证效果。
6. 工业实践意义
对搜索/推荐系统的直接启示
- "兴趣深度" 是一个值得关注的新维度：工业推荐系统长期以来关注"兴趣广度"（多兴趣建模，如 MIND、ComiRec）和"兴趣时效性"（实时特征、session 建模），但很少从"深度"角度思考。本文提出的 Shallow Interest 问题在工业系统中同样存在——大量 item 的特征只有标题和品类，用户画像也只停留在浅层标签。
- LLM 作为 "特征增强器" 的范式：不需要用 LLM 做端到端推荐，而是用 LLM 来增强现有特征。这种范式在工业中更可行——离线用 LLM 批量处理 item 库，生成深层兴趣标签，然后将这些标签作为特征注入现有的推荐管道（embedding 层或特征交叉层）。
- 多 LLM 共识机制的普适性：这个思路可以泛化到任何 LLM 辅助的特征工程场景——通过多模型投票降低幻觉风险。在广告文案生成、商品标签挖掘等场景中同样适用。
- 跨域兴趣迁移的实际价值：电商平台往往有多个业务线（如淘宝的服装、数码、家居），深层兴趣的跨域迁移能力意味着可以用高频业务的数据增强低频业务的推荐，缓解冷启动问题。
落地建议
- 成本可控的实施路径：可以先对高价值 item（如高 GMV、高曝光）做 LLM 深层兴趣挖掘，再逐步扩展到长尾 item。无需一次性覆盖全部 item 库。
- 与现有系统的融合：深层兴趣标签可以作为额外的 side information 注入已有的双塔模型或序列模型，不需要推翻现有架构。
- 质量控制是关键：RLDI 模块的设计思路值得借鉴——任何 LLM 生成的特征都需要质量把关。在工业中可以用更完善的人工审核 + 自动分类器来保证兴趣标签的可靠性。
总结
DeepInterestGR 的核心价值不在于具体的模型架构（RQ-VAE + GRPO 本身不算新），而在于提出了一个重要的问题视角（Shallow Interest），并给出了一个系统性的解决方案（LLM 挖掘 → 质量过滤 → 兴趣增强编码 → 兴趣感知 RL）。这套 "用 LLM 世界知识深化 item 语义" 的范式，对于工业推荐系统在 LLM 时代的演进具有重要参考价值。