今日场景今天生成式赛道有 2 篇。TCBSA 解决生成式推荐束搜索过早剪掉冷门兴趣的问题，在剪枝前借用传统打分模型的分数给前缀加分，不用重新训练，有深度解读。MPQ 则是一种训练后量化求解器，先保留每块权重的多个候选值再统一定下，低比特下更准。用 Semantic ID 做召回或想把生成模型压小部署的团队可以重点看。 — 评分 4 篇，入选 2 篇，分数 3.00 – 4.10
本期目录 · 2 篇
- 01From Item Scores to Semantic Tokens: Test-Time Collaborative Adaptation for Generative Recommendation
- 02MPQ: A Message-Passing View of Post-Training Quantization
LEAD STORY · 今日必读
用 Semantic ID 做生成式推荐时，模型要逐个 token 生成商品编码，束搜索每一步只留下分数最高的几条前缀，一条前缀被剪掉，它下面的所有商品就再也生成不出来。用户刚冒出新兴趣时，这个问题最明显。这篇论文提出 TCBSA（测试时协同束搜索调整），在每次剪枝之前，把打分模型给出的商品分数折算成对编码前缀的加分：打分模型先给全库商品打分，取排名靠前的几百件，把每件商品高出入围线的分差摊到它编码经过的每一步上；束搜索每一步排序前，把这些加分加到路径的累计分数上。两个模型都不重新训练。在不同公开数据集上，给 TIGER 加上它之后，排序准确率 NDCG@10 相对提高 4.9% 到 30.4%；用更窄的束，它也比把 TIGER 的束开宽更准、更快。
今日其余入选
1 篇 · 按综合排名
02 3.00
把大模型训练后量化到很低的比特数时，GPTQ 等常用求解器逐块决定每组权重取码本里的哪个值，一块一旦定下就不再改，只差一点的备选值也不再考虑。这篇论文提出 MPQ（消息传递量化），先保留每块各候选值的概率，最后再定。它在两步之间反复交替：一步按这一层的输出误差，求出每块权重的连续估计值和它的可信程度；另一步给每块的各候选值算概率，离估计值越近的候选概率越高，估计越不可信，各候选的概率就越接近。迭代几轮后每块取概率最高的值，再用逐块坐标下降修一遍。在 Llama、Qwen 和 Mistral 系列上，它的困惑度和零样本准确率都更好，比特越低优势越大。Llama-3-8B 压到 2 比特时，困惑度约 11.6，对比方法是 12.76。
其他赛道今日
点击切换