- 1. Efficient Generative Retrieval for E-commerce Search with Semantic Cluster IDs and Expert-Guided RL · 📖 深度解读
针对生成式检索在大规模电商搜索中难以落地的问题，论文把它定位为召回阶段的增量通道，不替换原有多级检索。CQ-SID 结合类目感知与 query-item 对比学习，叠加 Residual Quantized VAE，压缩 beam search 复杂度；EG-GRPO 用稀疏奖励让生成式检索对齐下游排序目标。离线语义点击 hitrate 相对提升最高 26.76%、个性化点击 hitrate 提升 11.11%…
出现于日报：05-18
- 2. Trust or Abstain? A Self-Aware RAG Approach · 📖 深度解读
RAG 在外部证据 (CK) 与模型参数知识 (PK) 冲突或两者都不可靠时容易产生错误。作者基于五个冲突 QA 数据集，针对每个 LLM backbone 构造了约 69K 条 query-context 实例的 ground-truth-aligned 冲突基准，量化测得 PK-only 与 CK-conditioned 两条答案路径的可靠性…
出现于日报：05-21
- 3. RAGR: Review-Augmented Generative Recommendation
论文指出当前生成式推荐 (GR) 虽然引入了 Semantic ID、自回归解码、统一 token 空间等新机制，但仍沿用「只建模 item 序列」的假设，无法捕捉用户为什么选择某个 item 的评价性因素。RAGR 提出 Review-Augmented User Sequence Modeling：把用户撰写的 review 反馈直接编入生成式用户序列，与 item token 交错排列…
出现于日报：05-20
- 4. From Volume to Value: Preference-Aligned Memory Construction for On-Device RAG (EPIC)
面向端侧个人 AI agent 的 RAG，论文认为内存预算受限时真正的瓶颈是「该存什么」才能让检索与用户对齐。EPIC (Efficient Preference-aligned Index Construction) 把用户偏好作为紧凑且稳定的个人上下文形式，贯穿整条 RAG 管线：从原始数据中选择性保留与偏好相关的信息，并把检索引导向偏好对齐的上下文…
出现于日报：05-20
- 5. Draft Less, Retrieve More: Hybrid Tree Construction for Speculative Decoding
投机解码 (Speculative Decoding) 通过 draft-then-verify 加速 LLM 推理，但密集 draft tree 的 VRAM 带宽和算力开销吃掉了端到端 speedup；动态剪枝又会丢候选导致接受率下降。作者提出 Graft：把剪枝和检索耦合成互补操作，先 prune 释放预算，再用 retrieval 从 n-gram/缓存中补回被剪掉的高质量候选…
出现于日报：05-21
- 6. Access Paths for Efficient Ordering with Large Language Models
把“用 LLM 按语义排序”抽象为 LLM ORDER BY 算子，系统研究其物理实现：逐项打分（O(N) 次调用）、成对比较、批量外部归并三类。提出语义感知的外部归并排序与带多数投票的快排，并用动态优化器（启发式规则 + LLM-as-Judge + Borda 计数）按数据集自动选最优算法。在 TREC DL20 上外部归并取得 0.719 nDCG@10、自一致优化器 0.724…
出现于日报：05-22
- 7. LLM-based Conversational Recommendation Agents with Collaborative Verbalized Experience
现有 LLM-based 会话推荐 (CRS) 要么 retrieve few-shot 示例，要么抽全局规则，难以利用 implicit、偏好导向的历史经验。作者提出 CRAVE：先让 CRS agent 在历史 query 上跑 rollout，再基于用户反馈反思 agent 行为，构造 "verbalized experience bank"…
出现于日报：05-21
- 8. Making LLMs faster without sacrificing accuracy (Surefire architectural scaling law)
AWS AI Labs 在 Chinchilla scaling law 基础上引入三个架构因子（hidden size d_model、MLP-to-attention 比例、GQA），把架构选择直接纳入 loss 预测。发现 LLaMA-3.2 风格模型最优 MLP/attention 比约为 1.0，远低于现有开源权重（LLaMA-3.2-1B 为 4.8），即现有模型在 MLP 层过度分配参数…
出现于日报：05-18
- 9. The Impact of AI Search on the Online Content Ecosystem: Evidence from Google and Reddit
研究生成式 AI 搜索（Google AI Overviews）对 UGC 社区平台（Reddit）的影响。识别策略利用 Google 内容审核政策的差异：SFW 社区会被 AI Overviews 引用，NSFW 社区虽被自然搜索索引但被禁止出现在 AI 摘要中，从而构成准实验。采用双重差分 (difference-in-differences) 设计发现：AI Overviews 使 SFW 社区参与度上升——日评论数相对…
出现于日报：05-20
- 10. Stage-adaptive Token Selection for Efficient Omni-modal LLMs
Omni-modal LLM (om-LLM) 把视频和音频编码成时间对齐的非文本 token，在 LLM 前向中处理这些密集 token 计算开销巨大。作者先做 layer-wise token dependency 分析，发现视觉/音频依赖呈 block-wise 模式且随深度衰减——晚期层很多非文本 token 在跨模态融合后变得冗余…
出现于日报：05-21