From Volume to Value: Preference-Aligned Memory Construction for On-Device RAG (EPIC)
面向端侧个人 AI agent 的 RAG,论文认为内存预算受限时真正的瓶颈是「该存什么」才能让检索与用户对齐。EPIC (Efficient Preference-aligned Index Construction) 把用户偏好作为紧凑且稳定的个人上下文形式,贯穿整条 RAG 管线:从原始数据中选择性保留与偏好相关的信息,并把检索引导向偏好对齐的上下文。在覆盖对话、辩论、解释、推荐四类任务的 4 个 benchmark 上,EPIC 把索引内存压缩 2,404 倍,同时提升偏好遵循能力。
INSIGHT「以用户偏好为索引压缩的核心信号」对社区搜索的个性化召回有借鉴价值:与其全量存储用户行为再检索,不如先抽取稳定偏好画像作为索引锚点。2,404 倍的内存压缩说明偏好导向的索引裁剪在不显著损失偏好遵循的前提下极其激进,可用于端侧/低成本个性化重排,以及对长期用户兴趣做稳定建模而非依赖近期行为噪声。