该工作的核心启示是：用户记忆检索不应是简单的 top-k 相似度匹配，而应区分「我认识这个」（快速模式匹配）和「让我想想之前的经历」（深层链式推理）两种模式。对于社区搜索的个性化排序，可以借鉴这种双通道设计：对频繁交互的 topic 使用轻量级匹配（familiarity），对长尾或新兴话题使用深度用户偏好推理（recollection），在个性化质量和推理成本间取得平衡。
录用: ICLR 2026 | 作者: 大连理工大学、香港城市大学、华为
1. 问题与动机
个性化 LLM 需要从用户历史记忆中检索相关信息，但现有方法存在两个极端：(1) Full Context 将所有历史塞入 Prompt，128K 语料需 115,601 tokens，1M 时直接 OOC；(2) 单步 Dense Retrieval 只能捕捉表面语义匹配。借鉴认知科学双过程理论——Familiarity（快速粗粒度识别）和 Recollection（慢速精细链式重建），提出自适应检索框架。
2. 方法概述
提出 RF-Mem（Recollection-Familiarity Memory Retrieval），基于熟悉度不确定性引导的双路径检索：
- 探针检索计算熟悉度信号（均值分数+熵）
- 路由决策：高熟悉度→Familiarity 快速路径；低熟悉度→Recollection 迭代扩展路径
- Familiarity 路径：直接 Top-K，延迟 3-5ms
- Recollection 路径：迭代 retrieve-cluster-mix，通过 alpha-mix 将查询与聚类质心融合，纯 embedding 空间内实现链式推理
3. 核心技术贡献
熟悉度不确定性路由
温控 softmax 归一化后计算熵，三段式路由：均值分数高→Familiarity；低→Recollection；中间区域用熵消歧（低熵=置信高→Familiarity，高熵=不确定→Recollection）。
Recollection 迭代聚类扩展
每轮检索 N_r 条候选→KMeans 聚为 B 个簇→alpha-mix 生成新查询→重复 R 轮→最终 Top-K。在纯 embedding 空间实现类链式推理，无需 LLM 干预。
模块化兼容性
与 MemoryBank、HyDE、Search-o1 叠加均带来一致提升，证明其作为通用在线检索层的价值。
4. 实验结果分析
PersonaMem (主实验)
- 32K 规模：RF-Mem 0.6350 vs Full Context 0.6129（+2.2%），仅用 3,567 tokens（Full Context 的 14.5%），延迟 5.09ms
- 128K 规模：RF-Mem 0.5394 vs Dense Retrieval 0.5259（+1.35%）
- 1M 规模：Full Context 完全 OOC，RF-Mem 0.4589 仍有效
PersonaBench (个性化检索)
- Recall@5：RF-Mem 0.4788 vs Familiarity 0.4515（+2.7%），延迟 9.16ms vs Recollection 17.29ms
LongMemEval (长期记忆)
- LME-S Recall@5：RF-Mem 0.8186 vs Familiarity 0.7924（+2.6%），延迟比 Always-Recollection 低 6.31ms
集成实验
- 与 MemoryBank：RF-Mem 0.5314 vs Familiarity 0.4941（+3.7%）
- 与 Search-o1：RF-Mem 0.6146 vs Familiarity 0.5823（+3.2%）
5. 局限与未来方向
- 仅评估对话式文本记忆，未覆盖跨模态
- 不确定性度量基于 list entropy，对语义歧义刻画有限
- 静态 embedding 索引，无时序更新或会话间冲突建模
- 隐私风险：提升历史可检索性可能无意重浮敏感信息
- 未来：多模态扩展、更丰富不确定性估计、时序动态建模
6. 工业实践意义
- 成本控制：以不足 4,000 tokens 的固定预算实现 Full Context 级别效果，显著降低推理成本
- 低延迟：4-10ms 检索延迟满足实时搜索/推荐要求，比 Always-Recollection 快 30-50%
- 即插即用：纯检索层工作，不需修改 LLM 或索引逻辑，工程接入成本极低
- 差异化服务：自动区分简单查询（快路径）和复杂查询（慢路径），计算资源精细调度
- 长期偏好建模：Recollection 路径通过迭代扩展聚合时间分散的行为信号，适合用户长期行为建模
- 代码开源：https://github.com/Applied-Machine-Learning-Lab/ICLR2026_RF-Mem