Beyond Successor Accuracy: State Retention for Recursive Self-Improvement in Recommendation

正文依据：https://arxiv.org/html/2610.07105 。以下实验数字来自论文第 3、4 节，工业建议属于本报告的迁移分析。

1. 问题与动机

推荐系统递归自改进会把当前模型生成的交互或监督信号用于训练下一代。通常的判断方式是比较新旧模型的 Recall 与 NDCG，然后用新模型替换旧模型。作者指出，这些总量指标没有说明哪些正确推荐被保留：两个平均准确率相近的模型，可以在不同用户上命中不同物品；新模型总体变好，也可能遗失旧模型独有的正确决策。

论文的实证动机非常具体。直接后继模型 A 在原始留出测试中只在 26/36 条轨迹优于父模型 P，而选择适当配对族后，组合在 34/36 条轨迹优于 A。作者把更新边界两侧保留的互补性称为分布式进展。它不是分布式计算，而是进步未必全部浓缩到单个后继网络中。研究问题因此变成：一个更新结束后，应保留单个模型、同代组合，还是跨代组合？

这与社区 UGC 搜索的排序迭代有直接关系。总体 nDCG 上升，仍可能覆盖不了旧模型擅长的口语、长尾内容或特定用户群。论文提供一个分析框架来区分“后继变强”和“更新制造了可利用的互补性”，而非直接提出更大、更复杂的主干模型。

2. 方法详解

每条轨迹训练四个模型：P、B 是独立的更新前运行；P 生成用于后续训练的交互；A、A′ 使用相同的增强数据与配置，只改变随机种子。跨代族 C 包含 P-A、P-A′、B-A、B-A′ 四个组合；同代族 W 包含 P-B 和 A-A′ 两个组合。这里既包含父子配对，也包含非父子配对，避免把某条特定继承边的收益误当作整个更新的性质。

两模型的融合规则固定：给每个物品的分数等于两个全目录概率的对数加权和，β 固定为 0.5，即各占一半，再按这个分数排序。跨代优势 CGA 定义为四个跨代组合的平均效用，减去两个同代组合的平均效用。两侧给 P、B、A、A′ 的边际总权重都是 0.5，推理时都调用两个模型。如果配对效用可以分解成模型本身的主效应与交互项，模型主效应就会相消，剩下更接近跨更新边界的互补作用。作者并未声称它单独辨识某种因果机制：校准、分数尺度与顶部排序决策都可能影响结果。

实际保留方案由排名分离度选择。先计算两模型 top-k 集合交集大小除以 k，并对用户取平均；再用同代重叠度均值减去跨代重叠度均值，得到 Sep_k。Sep_20 大于零，表示跨代的顶部决策分歧比同代种子分歧更大，选择跨代族；否则选择同代族。这个计算在选择时不需要相关性标签，但训练模型和最终测量效用当然仍需要交互数据。

实现细节相当充分。四个数据集为 Amazon Toys、Beauty、Sports 和 Yelp，评估用户数分别为 9,011、10,980、17,297 和 17,168。每个数据集与编码器组合有三条独立种子轨迹，每个模型训练 10,000 次更新。生成过程每个拟合历史产生五个续接，排名保真阈值为 20。每个用户最后三个事件分别形成检查点选择、诊断和确认窗口，早期事件才作为拟合前缀；原始验证和测试留待最终评估。

所有模型使用 64 维物品嵌入。GRU4Rec 为两层循环网络、隐藏宽度 256、dropout 0.2；SASRec 为两层注意力、两个头、隐藏宽度 128、dropout 0.5；FMLP 为两层滤波模块、dropout 0.5。优化器 Adam，学习率 0.001，batch 256，采样负例 256，最大序列长 50，每 500 次更新评估一次；全目录评测屏蔽 padding 与已观察物品。正文没有明确提供硬件型号，不能据此承诺某种 GPU 的训练时间。

3. 核心技术贡献

第一项贡献是把更新边界的互补性变成可检验的对照量。通常比较父子模型与单模型时，额外推理成本或强模型的边际优势会混入结论。CGA 对照的是相同双模型成本下的跨代与同代族，并匹配四个模型的边际使用率，因而更有利于解释更新本身产生的结构性差异。

第二项贡献是区分“获得进展”和“成功压缩进展”。作者用五条转移路线检查生成数据、概率、排名、互补目标以及参数能否被单网络继承。硬生成数据重训的收益随领域改变符号；全目录 KL、top-50 列表蒸馏和互补目标分别只在 1/4、2/4、1/4 个设置胜过相应对照；线性参数插值在十条轨迹中均未超过更强端点。最好的列表蒸馏仍留下残余收益。

第三项贡献是用顶部边界信号进行选择。开发数据上，CGA 与 top-20 分离度相关系数为 0.850，与独有命中优势为 0.870；全目录 Jensen–Shannon 与总变差对应只有 0.500、0.270。结果提示，真正需要观察的是曝光列表附近的变化，而不仅是整个概率分布的差异。这个发现比“模型不同所以组合有效”更具体，也更适合排序回归诊断。

4. 实验结果分析

下表摘录正文表 1 的 NDCG@20；W 为同代配对族，C 为跨代配对族。所有数字是三个轨迹的均值，不能当作单次最佳运行。

GRU4Rec 与 SASRec 在四个数据集的 NDCG@20 均偏好跨代组合，相应八个设置各有 3/3 条轨迹为正。FMLP 的 k=20 结果反过来，同代更好，而 k=10 的差异接近零。这说明组合收益既依赖编码器，也依赖截断位置，不能把跨代组合当作固定优胜策略。

首次更新的设置级别选择正确率为 12/12，轨迹级别为 32/36。所选族在 35/36 条轨迹胜过同模型快照组合，NDCG@20 平均增益 0.002065，按数据集聚类的 95% bootstrap 区间为 [0.001597, 0.002512]。它在 34/36 条原始测试轨迹胜过直接后继 A，均值增益 0.002018，相对提高 10.6%；相对最佳单模型则在 33/36 条轨迹取胜。

第二轮更新是重要的鲁棒性测试，而不是简单复制。作者在 Toys、Beauty、Sports 上由 A 生成 D2，再训练 C、C′；GRU4Rec 的 pooled CGA 从 0.001196 降至 0.000749，仍保持正值。FMLP 从 -0.000187 变为 +0.000035，开始偏向跨代分歧，但实现收益仍依赖设置。第二轮选择为 5/6 个设置、15/18 条轨迹正确，17/18 条轨迹胜过 G2 快照对照，平均增益 0.002057。它说明状态保留策略需要每轮重算，不能只由架构名称决定。

五条转移路线属于机制对照。列表蒸馏把平均源到后继损失从 0.002313 降到 0.001375，仍没压缩全部收益。作者没有给出可让每个领域稳定恢复双模型收益的单模型方案；这正是论文的负结果之一。

5. 局限与未来方向

论文没有单列通用“局限”章节，但正文明确限制了排名分离度的解释范围：跨轨迹相关系数为 0.814，按架构中心化后降至 0.205。因此主要关系来自不同架构的更新响应，不是同架构不同随机种子的可靠优选信号。报告不能把 12/12 的设置正确率扩大解释为任何模型副本都能无标签精准选择。

作者也明确指出，固定融合下的交互项可能包含校准与分数尺度，不能归因到唯一机制；第二轮 FMLP 的表现更进一步说明该信号并非无条件稳定。五种转移未能一致重现双模型收益，是仍待解决的状态压缩问题。结论将关系状态保留定位为自改进推荐系统的设计问题，而不是声称已有普适闭环。

本报告额外指出：证据只覆盖四个离线数据集、三类相对小的编码器和两轮更新，没有真实社区搜索在线 A/B、延迟曲线或大型工业排序模型结果。这些属于可见的外推边界，并非作者报告的线上失败案例。

6. 工业实践意义

在 UGC 社区排序中，可先把这套方法作为模型更新诊断：保留上一版本与新版本的独立种子运行，固定融合方式、候选集及推理成本，测量跨代与同代组合的 nDCG 差异。再按用户活跃度、历史长度、内容冷启动程度审计独有命中与回归，判断总体增长是否掩盖特定用户损失。这里的分层审计是业务建议，论文并未直接验证这些人群。

可借鉴的工程路径是离线先算 Sep_20，再在独立窗口验证 CGA，最后用原始留出测试或真实 A/B 确认。前期计算无需新标注并不意味着可以省略最终相关性或点击验证。选择、诊断、确认三个窗口和未参与调参的 Sports 数据集值得复用，以减少信号在同一验证集上反复挑选造成的乐观偏差。

部署代价很清楚：相比单模型，多保存一份模型，并增加一次前向计算。应先并行化两个编码器并实测 P95 延迟、吞吐、显存与特征读取成本，再判断 0.002 级别的离线增益是否足够。若在线预算无法承担，可把 top-50 列表蒸馏作为压缩实验起点，但必须接受论文中仍存在残余损失这一事实。没有线上 A/B 数字可以直接用于收益预算；CTR 改善需要在本场景另行验证。