- 1. One Model Is Enough: Native Retrieval Embeddings from LLM Agent Hidden States · 📖 深度解读
提出让 LLM Agent 直接利用自身 hidden states 进行检索,消除传统「生成查询文本 + 独立 embedding 模型」的双模型流水线。通过在 LLM 之上添加轻量投影头,结合对齐损失、对比学习和排序蒸馏三种训练目标,在 QReCC 对话搜索基准上保持了基线 97% 的检索质量(Recall@10 和 MRR@10),同时消除了独立 embedding 模型的基础设施开销。
出现于日报:03-11
- 2. Verifiable Reasoning for LLM-based Generative Recommendation · 📖 深度解读
针对 LLM 生成式推荐中推理退化(同质化推理和错误累积)的问题,提出 VRec 框架,首创 reason-verify-recommend 三段式范式,在推理过程中交叉插入验证环节以提供可靠反馈。核心设计包含混合验证器(mixture of verifiers)确保多维度验证,以及代理预测目标保障可靠性。在四个真实数据集上验证,VRec 在不牺牲效率的前提下显著提升推荐效果和可扩展性,代码已开源。
出现于日报:03-11
- 3. Beyond Interleaving: Causal Attention Reformulations for Generative Recommender Systems · 📖 深度解读
针对生成式推荐系统中 item-action token 交织导致序列长度翻倍的效率问题,提出 AttnLFA 和 AttnMVP 两种因果注意力架构,通过显式编码 item-to-action 的因果依赖关系,消除交织依赖并将序列复杂度降低约50%。在大规模商品推荐数据上,AttnMVP 相比交织基线 eval loss 降低0.80%,训练时间缩短12%,同时 Normalized Entropy 指标也有提升…
出现于日报:03-14
- 4. PinRec: Outcome-Conditioned, Multi-Token Generative Retrieval for Industry-Scale Recommendation Systems
Pinterest 提出的工业级生成式检索模型 PinRec,使用 outcome-conditioned generation 让建模者灵活控制多个业务指标(如 save、click)的平衡,并引入 multi-token generation 提升输出多样性。在 Pinterest 实际场景中成功部署,超越传统 two-tower 架构。
出现于日报:03-09
- 5. Deep Research for Recommender Systems · 📖 深度解读
提出推荐系统的 Deep Research 范式,用综合性的用户中心报告替代传统的物品列表推荐。具体实现了 RecPilot 多智能体框架,包含两个核心组件:用户轨迹模拟 Agent(自主探索物品空间)和自进化报告生成 Agent(将探索结果整合为可解释报告)。在公开数据集上的实验表明,RecPilot 在用户行为建模上表现优异,并能生成高说服力的报告,显著减少用户评估物品的认知负担。
出现于日报:03-11
- 6. Continual Low-Rank Adapters for LLM-based Generative Recommender Systems
针对 LLM 推荐系统面临的持续学习问题——用户、物品和偏好随时间演变——提出 PESO(Proximally rEgularized Single evolving lOra)方法。不同于现有 LoRA 持续学习方法仅关注保留旧任务性能,PESO 认识到推荐的特殊性:过时偏好反而有害。通过近端正则化将当前适配器锚定到最近冻结状态,PESO 能灵活平衡适应与保留,更好地捕捉最近用户行为。理论分析证明该设计提供了数据感知的方向性指导。
出现于日报:03-11
- 7. Scaling Multilingual Semantic Search in Uber Eats Delivery
Uber Eats 的生产级多语言语义检索系统,统一了门店、菜品和杂货零售三个垂类的检索能力。基于 Qwen2 两塔模型,使用数亿匿名 query-document 交互数据进行微调,训练结合 InfoNCE(in-batch 负采样)和 triplet-NCE(hard negative)双损失,并引入 Matryoshka Representation Learning 实现单模型多维度 embedding 输出…
出现于日报:03-11
- 8. RelayGR: Scaling Long-Sequence Generative Recommendation via Cross-Stage Relay-Race Inference
提出跨阶段接力式推理架构 RelayGR,将生成式推荐中用户行为编码与候选评分解耦,实现长序列高效推理。
出现于日报:03-10
- 9. Can LLMs Outshine Conventional Recommenders? A Comparative Evaluation
提出 RecBench 基准,系统性地对比 LLM-based 推荐器与传统推荐模型。探索了多种 item 表示形式(唯一 ID、文本、语义 embedding、Semantic ID),在 CTR 预估和序列推荐两个核心任务上进行全面评测。
出现于日报:03-09
- 10. Rec-R1: Bridging Generative Large Language Models and User-Centric Recommendation Systems via Reinforcement Learning
提出 Rec-R1 框架,通过强化学习将 LLM 生成能力与推荐系统进行闭环对齐。核心思路:将推荐模型视为黑盒环境,LLM 作为策略模型,直接用推荐反馈优化 LLM 的生成行为。
出现于日报:03-09