- 1. MTGR:美团外卖生成式推荐 Scaling Law 落地实践 · 📖 深度解读
美团外卖把排序模型换成 Meta 的 HSTU 生成式架构,但没有照搬,而是保留了全部交叉特征,并把同一用户一天的曝光压成一行训练。单样本计算量涨到 65 倍,靠这种压缩和长度采样,训练成本与旧模型持平;首页订单量提升 1.22%。不过 Scaling 证据只有三个尺寸,线上点击率也不随尺寸单调。复购型业务换生成式架构时,交叉特征不能丢。
出现于日报:05-04
- 2. CapsID: Soft-Routed Variable-Length Semantic IDs for Generative Recommendation · 📖 深度解读
针对生成式推荐中 RQ 残差量化 tokenizer 的两个核心瓶颈——“硬最近邻路由”造成的语义崩塌和早期错误向后续 SID 位的传播,CapsID 将 RQ 的硬路由替换为基于胶囊网络的软路由:每一层物品按概率路由到多个语义胶囊,残差按加权重建更新,并在胶囊置信度收敛时提前终止生成变长 SID,从而避免“附加 dense 向量”这类双表示带来的推理膨胀…
出现于日报:05-08
- 3. GRAM: Generative Recommendation via Semantic-aware Multi-granular Late Fusion
GRAM 提出多粒度晚融合 (Multi-granular Late Fusion) 的生成式推荐方法,解决 RQ-VAE 类 Semantic ID 在表示能力与生成效率之间的折衷问题。将 Semantic ID 拆解为粗粒度(类目/品牌等抽象语义)和细粒度(具体属性)两个层级,在 decoder 末段进行晚融合,避免早期融合带来的信息纠缠…
出现于日报:05-04
- 4. CRAB: Codebook Rebalancing for Bias Mitigation in Generative Recommendation
CRAB 识别出生成式推荐中"不均衡 tokenization 会继承并进一步放大历史交互的流行偏置"这一关键问题:codebook 中常见 token 训练样本多、参数更新充分,导致冷门 item 难以生成。CRAB 通过两步处理:1) 拆分过度流行的 token 同时保留语义结构;2) 引入树状结构正则化器增强语义一致性。后处理 (post-hoc) 应用于已训练模型,无需重训。在真实数据集上显著提升整体推荐质量,特别是长尾物品。
出现于日报:05-04
- 5. Beyond Similarity Search: A Unified Data Layer for Production RAG Systems
针对生产环境 RAG 系统中「原型干净/线上掉链子」的鸿沟,论文将根因归结到三处:数据陈旧、租户数据泄露、查询组合爆炸;都来自传统的「向量库+元数据库」分裂式数据层。作者提出基于 PostgreSQL+pgvector+HNSW 的统一数据层,并在 5 万文档基准上:日期过滤查询延迟 -92%、租户隔离查询 -74%、零同步不一致、零跨租户泄露,同步代码量 -93%。还讨论了热-温-冷三层混合架构。
出现于日报:05-07
- 6. OpenSeeker-v2: Pushing the Limits of Search Agents with Informative and High-Difficulty Trajectories · 📖 深度解读
工业界训练前沿搜索 Agent 的「标准菜谱」是 PT→CPT→SFT→RL 的重资源管线。本文反其道而行之,证明只要用「高信息量+高难度」轨迹,纯 SFT 也能达到 SOTA。三个简单的数据合成改动是关键:扩大知识图谱以丰富探索、扩大工具集、严格过滤低步数轨迹。仅 10.6k 数据上训练 30B 规模 ReAct agent,BrowseComp 46.0%、BrowseComp-ZH 58.1%、HLE…
出现于日报:05-07
- 7. One Pool, Two Caches: Adaptive HBM Partitioning for Accelerating Generative Recommender Serving (HELM)
生成式推荐 (GR) 在线推理面临 EMB 热缓存与 KV 缓存争抢 GPU HBM 的问题,二者最优分配比可在不同负载下偏移高达 0.35,孤立优化各损失 20–30% 时延。HELM 提出运行时联合管理 HBM 和请求路由:由三层 PPO 控制器(冷启动基策略 + 在线残差 adapter + 突发恢复控制器)做 32μs 决策延迟的内存重分配,并通过分批预取与请求路由避免 H2D 流量打到关键路径触发 P99 SLO 违例…
出现于日报:05-08
- 8. Verbal-R3: Verbal Reranker as the Missing Bridge between Retrieval and Reasoning · 📖 深度解读
针对常规 RAG 直接把检索文本喂给 LLM 上下文导致信息整合不充分的问题,论文提出 Verbal-R3 框架:用「Verbal Annotations」明确写出查询与候选文档之间的逻辑关系,再用 Generator+Verbal Reranker 双角色迭代检索-推理。Reranker 不仅给出分数还输出语言化解释,引导 Generator 的推理…
出现于日报:05-06
- 9. Revisiting General Map Search via Generative Point-of-Interest Retrieval
针对地图搜索中 query 模糊、上下文异构的痛点,论文从「生成式」视角提出 GenPOI:把异构搜索上下文与 POI 统一序列化为结构化 token 序列,借 LLM 的上下文建模能力做生成式 POI 召回。两个核心组件:(1) Geo-Semantic POI Tokenization,把每个 POI 编码为含语义+地理信息的紧凑 token 序列,给 LLM 注入空间感知…
出现于日报:05-07
- 10. GPR: Towards a Generative Pre-trained One-Model Paradigm for Large-Scale Advertising Recommendation
GPR 提出"一模型"生成式预训练范式,用单个 decoder-only Transformer 统一广告推荐的召回、排序、创意选择三个阶段,取代传统多级级联架构。核心思路是借鉴 LLM 预训练 + SFT 模式,先在大规模日志上做生成式预训练学习用户/商品分布,再针对每个下游任务做小规模微调。在大型广告平台的生产 A/B 测试中相比传统多级方案带来显著收入提升,并大幅简化工程复杂度。
出现于日报:05-04