Beyond Sequences: Distilling Structured Decision Memory for LLM Recommendation

原文：https://arxiv.org/html/2610.11501 。本文依据全文的方法、实验设置、表 I–IV 和结论撰写。作者均来自 Alibaba，研究使用真实电商日志的离线评估；文中没有提供线上 A/B 测试结果或毫秒级延迟测量。

1. 问题与动机

这项工作关注用户在多个相似商品之间如何作出选择。单纯记录“看过什么、最终买了什么”不能充分表达品牌、价格、认证等属性之间的取舍。同一个标题下的不同 SKU 可能只在颜色、规格或价格上有差异，用户的选择逻辑却不同。论文因此把物品定义到 SKU 层面，并保留搜索、浏览、收藏、购买的异质动作及时间戳。

已有多行为模型往往把这些信号融合成隐向量；直接使用 LLM 的方法又常把它们串成一长段文本。前者缺少可追溯的决策依据，后者让模型在预测时重新推理历史，并受到上下文噪声影响。作者在 DeepSeek-R1 上观察到输入长度约 100 条历史行为时效果达到峰值，继续加长没有持续收益。论文没有在正文中给出这幅曲线每个点的数值，因此不能据此宣称特定百分比的下降。

MARI 的切入点是事后回看一次购买之前的探索过程，把可以支持选择的证据先整理成结构化记录。在线只取少量相关记录辅助推荐，避免每次都重读全部历史。对社区搜索，这一思想值得考虑：点击、收藏、追问和明确反馈也承担不同角色，不能只按时间混在一个文本序列中。但购买所代表的确定性意图通常强于阅读点击，迁移需要重新定义有效决策事件。

2. 方法详解

系统分成离线记忆构建和在线记忆增强推理两部分。每个用户有一个按品类组织的决策记忆库 DMB。每条记录保存三个元素：购买前行为序列的向量、结构化决策记忆 SDM、该次购买时间。向量来自行为上下文编码，不是简单把生成的解释文本再编码。这个区别让检索匹配的是“当前探索过程像哪次过去的探索”，而不只是解释中是否出现同样的词。

SDM 包含五组字段：决策意图解释、决策画像标签、决策效率类型、正向偏好因素、回避因素。画像标签可以表示价格敏感或品牌敏感；效率类型有四档，依据会话持续时间、比较次数和回看频率判断；偏好与回避因素以属性键和值表示。标签和属性键来自闭集词表，由大规模电商数据上的迭代 LLM 聚类获得；解释和属性值则是开放文本。每个因素还要有证据支持，减少任意补写用户心理的风险。

离线 PHDD 流程先让 DeepSeek-R1 教师对品类内的购买前行为生成推理轨迹和最终 SDM，再用 Qwen3-4B 学生做全参数微调。训练目标是对教师“推理文本加结构化记忆”逐 token 计算交叉熵：给定购买前轨迹、品类和已经生成的教师 token，最大化下一个教师 token 的概率。购买后的评论只在教师数据构建时作为校准参考，学生训练输入和推理输入均不包含这些评论。作者明确声称教师应从购买前行为推断，评论仅用于验证；复现时仍需审计标签是否间接携带未来信息。

学生生成记忆后，使用冻结的 Qwen3-Embedding-0.6B 编码对应的购买前行为，存入按品类索引的向量库。PHDD 输入最多 200 条行为，限制为目标决策前两周。训练、验证、测试分别为 20 万、1 万、1 万样本。推荐部分近期上下文最多 100 条，默认取 K=3 条记忆。学生推荐模型同样基于 Qwen3-4B，全参数微调并混合三个推荐任务。全文没有给出优化器、学习率、batch size、训练步数或 GPU 配置，不能补写这些复现参数。

在线检索有两种策略。NIP 下一物品预测事先不知道目标品类，因此在用户所有品类的记忆中，根据近期行为向量和历史购买前向量的余弦相似度取前三条。DCP 相似商品难选择预测已知候选品类，优先取该品类最近三次决策；该品类没有记忆时才回退到跨品类相似检索。其理由是细粒度属性取舍随时间变化，品类内最近的证据比泛化相似性更有用。

推荐器接收近期行为、检索记忆以及任务要求，输出目标物品和解释。可以直接给现成 LLM 增加记忆提示，也可以让教师生成“记忆增强推理加目标物品”训练另一个学生。所谓即插即用模式不微调推荐器，但其记忆库依然依赖离线 PHDD，不能把整个系统称为完全无需训练。

3. 核心技术贡献

第一，模型把决策依据显式化并按品类保存。其技术机制是将异质行为及商品属性转成结构化取舍，而非把多行为 ID 统一压入一个不可解释向量。这样品牌、价格、回避条件和行动节奏可以被单独检索、检查。DCP 用 2–5 个非常相似的候选刻意检验细粒度判断，区别于只识别大类兴趣的评估。

第二，PHDD 把昂贵教师的事后分析能力迁移到 4B 学生，承担大量离线记忆生产。表 I 中未蒸馏 Qwen3-4B 的因素键精度为 0.577，蒸馏后为 0.769；决策画像精度从 0.467 到 0.713。学生推理质量评分为 3.93，接近教师 3.89。不过这项评分使用 DeepSeek-R1 作为评判模型，教师与评判相关，不能将分数直接视为独立人工验证。

第三，论文把跨品类迁移与品类内最近决策分开处理。NIP 用相似行为检索，DCP 用品类加时间检索，使同一记忆库服务不同任务。推荐微调时仅改变输入是否携带 SDM，训练目标保持一致，所以无 SDM 微调与 MARI 的对照比“4B 微调学生对未微调大模型”更能隔离记忆本身的收益。

第四，记忆生产和在线推理解耦，减少在线重复处理长轨迹的需求。作者展示了在不同模型规模上增加 SDM 的效果，但没有报告实际 P50/P99 延迟、吞吐量或服务成本。这是一条具有明确实现路径的设计，而非已经用公开性能数据证明的低延迟部署。

4. 实验结果分析

数据来自某大型电商平台六个月日志，保留商品文本属性。MBR 数据先合并重复用户—物品—动作记录，仅保留最早一条，再进行 k=10 的 k-core 过滤。按时间留最后一次购买作测试、倒数第二次作验证，其余作训练。NIP-in、NIP-out 和 DCP 使用不重叠用户，总计声称 15 万用户；每个任务又报告 5 万训练、1 万验证、1 万测试实例。用户数与实例数口径需要复现时进一步核对，不能假定每个实例必然对应不同用户。

NIP 的候选是近期交互中出现过的物品，不是全目录召回；DCP 候选由 Qwen3-Max 从近期犹豫与比较行为中挑选同品类 2–5 个商品，再人工确认。两种任务最终均报告 Hit@1，评估边界与工业全库召回、CTR 或搜索 nDCG 不同。

最强 MARI 学生的绝对分数很高，但应首先看同样微调的对照：表 III 的记忆增强增量约为 NIP-in +0.029、NIP-out +0.018、DCP +0.021，后三项数据经过不同精度的四舍五入，宜表达为近似值。不能把 MARI 对 HGIB 的全部差距都归因于记忆模块，因为模型、文本输入和训练形式也变化了。

一个重要反例是小模型跨品类任务。未微调 Qwen3-4B 加记忆后 NIP-out 从 0.0225 降到 0.0157；Qwen3-8B 也从 0.0687 小降至 0.0675。作者据此认为跨品类推理需要一定内在能力，不能宣称“更多记忆普遍有效”。中大型模型则更能使用该证据，例如 GPT-OSS-20B 的 NIP-out 从 0.0934 到 0.2480。

消融实验进一步区分三种输入：原始对应行为、未蒸馏记忆、蒸馏记忆。以 R1 为例，NIP-out 的基线约 0.250，加入原始对应行为为 0.270，未蒸馏记忆为 0.317，蒸馏记忆为 0.364；DCP 分别约为 0.516、0.511、0.520、0.534。这说明提升不仅取决于提供更多历史，也取决于结构化和记忆生产质量。

K 的扫描在 3 或 4 条附近达到峰值，继续加记忆会下降，NIP-out 更敏感。错误分析则故意取最低相似记忆，或随机取其他用户的同品类记忆。R1 的 DCP 在两种错误下为 0.495、0.494，低于无记忆的 0.516，也低于正确记忆的 0.534。系统的解释结构对某些任务有帮助，但错误事实会损害精准属性匹配。这比笼统的“对噪声鲁棒”更值得工业实践关注。

5. 局限与未来方向

作者在结论中提出三条未来工作：更先进的 SDM 检索策略、适应动态环境的自适应记忆更新、量化各个 SDM 字段对推荐质量与可解释性的独立贡献。论文没有独立的完整局限章节，因此不能把通用风险写成作者已经明确承认的结论。

正文提供的实际边界包括：4B/8B 即插即用在跨品类任务并非始终获益；记忆数量过大会引入噪声；DCP 对事实错误敏感。论文的验证依赖私有电商日志，缺少可直接使用的公开数据、完整训练超参数和线上延迟测量。虽然结论提及真实业务参与度，展示的表格仍是离线 Hit@1，因此这里不推断线上 CTR、收入或用户参与提升。

此外，下列是本解读提出的审查点：教师在构建监督时见过购买后评论，可能间接把未来信息编码进“事前可推断”理由；DCP 候选由 LLM 和人工共同构造，可能偏向模型容易解释的样本；真实动态 UGC 的主题边界、反馈可靠性与电商品类不同。应设计严格时间切分、评论完全隔离对照和自然会话测试来检查这些问题。

6. 工业实践意义

对于社区 UGC 搜索，最先可试的是证据记忆表示：把一次明确的搜索与后续收藏、追问、反复比较整理为一条带时间和主题的记录，保存关注属性及否定约束，并保留对应原始行为引用。当前 query 与会话先检索少量记忆，再让 LLM 评估已经召回的帖子是否满足意图。只把行为支持得住的属性写入字段，例如用户明确说“不看入门教程”，不要从一次未点击推断永久回避。

工程实验可以先采用即插即用提示增强，再决定是否蒸馏。至少对比同一个推荐模型的无记忆、原始历史、未蒸馏记忆和高质量记忆四组，分别统计熟悉主题、跨主题以及相似帖子选择场景的 nDCG。按照论文的失效模式，还应单独测错检索、旧偏好和当前意图与历史偏好冲突。若社区业务没有可靠的品类，可以先用主题聚类组织记忆；这是迁移建议，并非论文已经验证的方案。

在线链路需要向量编码、用户级或主题级检索、提示组装和 LLM 推理。论文把记忆生成移到离线，但在线模型调用仍然存在；不能以“离线蒸馏”推导出零时延增加。应测 P50/P99 延迟、缓存命中率、每个候选的 token 成本、记忆更新负载，再决定应用于搜索解释、会话推荐还是小候选集重排。4B 学生可能降低服务需求，但作者没有公开硬件与吞吐量数据。

最有价值的启示是把行为类型、候选属性和用户决策证据分开建模，并把检索策略与预测任务配套设计。离线改善只能支持进一步试验；最终业务判断仍需真实流量上的 nDCG、CTR、用户纠错率与满意度，且应保证记忆只使用当次请求之前已经发生的行为。