2026-04-06 周一 · Generative
独立报告页 · 在站内浏览（含往期切换）→今日场景社区搜索 (UGC 短文本搜索): 用户在社区平台搜索帖子、问答、评论等 UGC 内容。核心指标是搜索相关性 (nDCG) 和点击率 (CTR)。关注：语义匹配、query 理解、短文本召回、排序模型、LLM 在搜索中的应用。 — 评分 1 篇，入选 1 篇，分数 3.80 – 3.80
LEAD STORY · 今日必读 · 
LinkedIn / 
UW-Madison
LinkedIn / UW-MadisonGrounded Token Initialization for New Vocabulary in LMs for Generative Recommendation
该论文分析了语言模型在生成式推荐（如 Semantic ID 生成）中引入新 token 的初始化问题。通过光谱分析发现，标准的 mean initialization 会将所有新 token 坍缩到一个退化低秩子空间，消除 token 间的区分度，导致后续微调难以完全恢复。作者提出 GTI（Grounded Token Initialization），在微调前通过配对语言监督将新 token 映射到预训练嵌入空间中有意义的位置。在 LinkedIn 工业级候选检索数据集上，GTI 相比基线 Vanilla SFT 取得 +21.63% Precision@5 和 +17.88% NDCG@5 的相对提升。
3.80
综合分 / 5
偏好调整 3.80
偏好调整 3.80
KEY INSIGHT · 对业务意味着什么核心发现是 mean initialization 导致的 token 退化问题是生成式推荐模型性能瓶颈之一——所有新学习的 Semantic ID token 初始化在同一点，微调只能部分恢复区分度。GTI 的实践启示在于：在 Semantic ID 类生成式推荐系统中，增加一个轻量级的 grounding 预训练阶段（冻结 LM 主干，仅学习新 token 嵌入），可以以极低成本显著提升检索精度。这一思路适用于任何需要扩展 LM 词表的推荐场景。
Daiwei Chen, Zhoutong Fu, Chengming Jiang, Haichao Zhang, Ran Zhou, Tan Wang, Chunnan Yao,... · 2026-04-02 · arXiv