2026-04-01 周三 · Generative

独立报告页 · 在站内浏览(含往期切换)→
Generative生成式推荐 · 10 篇Personalization个性化推荐 · 8 篇AI SearchAI 搜索 · 10 篇Agentic智能体搜索 · 10 篇Infra系统与索引 · 10 篇

今日场景社区搜索 (UGC 短文本搜索): 用户在社区平台搜索帖子、问答、评论等 UGC 内容。核心指标是搜索相关性 (nDCG) 和点击率 (CTR)。关注:语义匹配、query 理解、短文本召回、排序模型、LLM 在搜索中的应用。 — 评分 958 篇,入选 10 篇,分数 3.10 – 3.90

本期目录 · 10 篇
  1. 01Unleash the Potential of Long Semantic IDs for Generative Recommendation
  2. 02LongCat-Next: Lexicalizing Modalities as Discrete Tokens
  3. 03ATLAS-RTC: Closing the Loop on LLM Agent Output with Token-Level Runtime Control
  4. 04Meta-Harness: End-to-End Optimization of Model Harnesses
  5. 05Hydra: Unifying Document Retrieval and Generation in a Single Vision-Language Model
  6. 06Hidden Ads: Behavior Triggered Semantic Backdoors for Advertisement Injection in Vision Language Models
  7. 07Rethinking Language Model Scaling under Transferable Hypersphere Optimization
  8. 08With a Little Help From My Friends: Collective Manipulation in Risk-Controlling Recommender Systems
  9. 09Improving Conversational Recommendation with Contextual Adaptation of External Recommenders and LLM-based Reranking
  10. 10ReCQR: Incorporating conversational query rewriting to improve Multimodal Image Retrieval
LEAD STORY · 今日必读

Unleash the Potential of Long Semantic IDs for Generative Recommendation

针对生成式推荐中语义ID的表达能力与推理效率之间的矛盾,提出 ACERec 框架。核心思路是引入 Attentive Token Merger 将长语义ID压缩为可变长度的紧凑表示,同时通过 Intent Token 捕获用户意图信号以引导推荐。在 Amazon Sports、Beauty、Toys、Yelp、LastFM、MovieLens 六个基准上,ACERec 的 NDCG@10 平均提升 14.40%,Hit Rate@10 平均提升 11.23%,同时推理开销与短ID模型持平。

相关 4新颖 4实用 3证据 4时效 3
3.90
综合分 / 5
偏好调整 3.90
KEY INSIGHT · 对业务意味着什么长语义ID(如64 token)天然编码了更丰富的物品语义,但自回归逐token生成导致推理延迟线性增长。ACERec 的关键创新在于将"表达粒度"与"推理开销"解耦——通过注意力合并将长ID压缩到少量token后再输入推荐backbone。这一思路为搜索/推荐中的生成式检索提供了实践路径:先用高精度长ID编码物品语义空间,再用Token Merger控制在线延迟,兼顾召回质量与系统性能。
Ming Xia, Zhiqin Zhou, Guoxin Ma, Dongmin Huang · 2026-02-14 · arXiv

今日其余入选

9 篇 · 按综合排名
02 3.90

LongCat-Next: Lexicalizing Modalities as Discrete Tokens

Meituan

美团提出 Discrete Native Autoregressive (DiNA) 统一框架,将文本、视觉、音频等多模态信息统一转化为离散token序列,在同一自回归模型中进行 Next-Token Prediction。核心创新是 Discrete Native Any-resolution Visual Transformer (dNaViT),可在任意分辨率下将连续视觉信号转化为层次化离散token。基于此构建 LongCat-Next 多模态原生模型,实现跨模态统一生成。

INSIGHT美团团队的 DiNA 框架代表了"万物皆token"的技术范式——将非文本模态离散化后纳入统一NTP训练。这与生成式推荐中 Semantic ID 的核心思想高度一致:物品到离散token序列到自回归生成。dNaViT 的任意分辨率离散化方案可迁移到推荐场景中多粒度物品表征的构建,特别是在多模态商品搜索(图文混合query)中,统一的token化策略有望简化现有的双塔/多塔架构。

Meituan LongCat Team, Bin Xiao, Chao Wang, Chengjiang Li et al.
arXiv·2026-03-31·Relevance 4 · Novelty 4 · Practical 3 · Evidence 3 · Timely 5
03 3.80

ATLAS-RTC: Closing the Loop on LLM Agent Output with Token-Level Runtime Control

提出 ATLAS-RTC,一种面向自回归语言模型的运行时控制系统,在每步解码时检测输出偏离预设结构约束的信号,并通过 biasing(概率偏移)、masking(token屏蔽)、rollback(回退重生成)三种干预手段实时校正。与后验校验或静态约束解码不同,ATLAS-RTC 构成闭环控制,能在错误产生前纠正。在结构化生成和工具调用任务上,首次成功率提升 20-37.8 个百分点,在失败主导场景下延迟降低最多 88%。

INSIGHT生成式推荐/检索中自回归生成合法物品ID是核心挑战——模型可能生成不存在的ID序列。ATLAS-RTC 的闭环解码控制(偏移+屏蔽+回退)提供了一种通用的"生成约束层",可直接应用于 Semantic ID 生成场景:在每步解码时限定候选token在合法ID码本内,大幅提升首次有效ID生成率。该方法的关键发现——许多生成失败源于解码伪影而非任务理解错误——对生成式搜推系统的工程实践有直接指导意义。

Christopher Cruz
arXiv·2026-03-31·Relevance 3 · Novelty 4 · Practical 4 · Evidence 4 · Timely 5
04 3.70

Meta-Harness: End-to-End Optimization of Model Harnesses

StanfordUW-Madison

LLM系统的性能不仅取决于模型权重,还高度依赖 harness(控制信息存储、检索、呈现给模型的代码逻辑)。Meta-Harness 提出一个外层优化系统,使用 agentic proposer 自动搜索最优 harness 代码。在在线文本分类任务上,相比 SOTA 上下文管理系统提升 7.7 分且上下文 token 用量减少 4 倍;在检索增强数学推理任务上,单个 harness 在 200 道 IMO 级别题目上平均提升 4.7 分,且跨 5 个未见模型泛化。

INSIGHT对于 LLM-as-recommender 或生成式搜索系统,"如何组织输入给模型"(prompt 模板、上下文选择、检索策略)往往比模型本身更影响效果。Meta-Harness 的核心启示是:应将 harness 作为可优化的一等公民,用自动搜索替代手工调试。对搜索推荐场景的直接应用:自动优化 RAG/检索策略的代码组织方式,特别是在多阶段 LLM 管线中,上下文窗口的利用效率对最终推荐质量有乘法级影响。

Yoonho Lee, Roshen Nair, Qizheng Zhang, Kangwook Lee, Omar Khattab, Chelsea Finn
arXiv·2026-03-31·Relevance 3 · Novelty 4 · Practical 4 · Evidence 3 · Timely 5
05 3.55

Hydra: Unifying Document Retrieval and Generation in a Single Vision-Language Model

提出 Hydra,一种双头架构,在单一视觉语言模型(VLM)中同时提供 ColBERT 风格的 late-interaction 检索和自回归生成能力。核心设计是单个 LoRA adapter 仅训练检索任务:启用时产出多向量嵌入用于检索,禁用时恢复基础模型的生成质量——在 10,500 次贪心和随机采样测试中生成输出 100% 字节级一致。相比独立部署检索+生成双模型,内存和系统复杂度减半。

INSIGHTHydra 的"单模型统一检索+生成"架构是生成式搜索的理想形态——一个模型既能做语义检索(ColBERT),又能做内容生成(自回归)。LoRA 开关切换模式的设计极具工程启发:无需架构修改,仅通过 adapter 切换即可复用同一backbone。对搜索推荐系统的启示:在资源受限场景下(如端上推理),可用类似方案将召回与排序合并到一个模型中,通过 LoRA 路由实现功能切换。

Athos Georgiou
arXiv·2026-03-31·Relevance 3 · Novelty 4 · Practical 3 · Evidence 3 · Timely 5
06 3.45

Hidden Ads: Behavior Triggered Semantic Backdoors for Advertisement Injection in Vision Language Models

揭示了一类针对 VLM 推荐场景的新型后门攻击——Hidden Ads。不同于传统的像素patch或特殊token触发器,该攻击利用用户自然行为(如上传食物、汽车等含特定语义的图片)触发隐性广告注入。当用户向 VLM 寻求产品或服务推荐时,被植入后门的模型会在看似正常的推荐中夹带未授权广告内容,且传统的对抗检测方法难以识别。

INSIGHT随着 VLM/LLM 被广泛部署到推荐和搜索场景,传统安全框架(针对显式触发器的检测)不再充分——Hidden Ads 展示了"语义后门"可通过用户正常交互激活。对搜索推荐从业者的警示:(1) LLM 推荐系统的安全审计需覆盖自然语义触发场景,而非仅检查已知攻击模式;(2) 模型供应链安全尤为重要,第三方微调的VLM可能嵌入此类隐性推广。建议在部署前增加语义一致性检测层。

Duanyi Yao, Changyue Li, Zhicong Huang, Cheng Hong, Songze Li
arXiv·2026-03-31·Relevance 3 · Novelty 4 · Practical 3 · Evidence 3 · Timely 5
07 3.30

Rethinking Language Model Scaling under Transferable Hypersphere Optimization

Microsoft

提出 HyperP(Hypersphere Parameterization),首个在超球面优化框架下实现学习率跨模型宽度、深度和训练步数迁移的方法。现有的超参数迁移定律主要针对一阶优化器,且无法从结构上防止大规模训练的不稳定性。HyperP 将权重矩阵约束在固定范数超球面上,通过理论推导和实验验证了跨规模迁移的有效性。

INSIGHT大规模搜推模型的训练面临"每次扩大规模都需重新调参"的痛点。HyperP 的核心价值在于提供了跨规模学习率迁移的理论保证——在小模型上调好的超参数可直接迁移到大模型,这对训练 10B+ 参数的生成式推荐/检索 foundation model(如 HSTU、Kunlun 类架构)具有直接的工程价值:减少大规模训练的调参成本,加速 Scaling Law 验证实验。

Liliang Ren, Yang Liu, Yelong Shen, Weizhu Chen
arXiv·2026-03-31·Relevance 2 · Novelty 4 · Practical 3 · Evidence 3 · Timely 5
08 3.20

With a Little Help From My Friends: Collective Manipulation in Risk-Controlling Recommender Systems

研究推荐系统中的集体操纵问题:用户有组织地协调行为(如点赞、评分、评论)以影响算法推荐结果。论文分析了基于共形预测(conformal prediction)的风险控制推荐系统在面对集体操纵时的脆弱性,展示了即使在提供统计保证的系统中,协调攻击仍可有效偏移推荐结果。

INSIGHT随着推荐系统引入 conformal prediction 等不确定性量化方法来提供"推荐可靠性保证",一个新的攻击面出现:集体操纵可利用概率保证的数学结构进行针对性攻击。对 UGC 社区搜索/推荐的启示:(1) 统计保证不等于对抗鲁棒性,引入概率校准层时需同步考虑对抗场景;(2) 集体操纵的检测应成为标准的系统组件,尤其在用户反馈直接影响排序的场景中。

Giovanni De Toni, Cristian Consonni, Erasmo Purificato, Emilia Gomez, Bruno Lepri
arXiv·2026-03-31·Relevance 3 · Novelty 3 · Practical 3 · Evidence 3 · Timely 5
09 3.10

Improving Conversational Recommendation with Contextual Adaptation of External Recommenders and LLM-based Reranking

NUS

针对 LLM 驱动的对话推荐系统(CRS)中两个核心挑战——LLM 推荐的物品不在目标空间内导致准确率低,以及 LLM 过度依赖对话上下文忽略长期偏好——提出整合外部推荐器与 LLM 重排序的架构。通过上下文适配模块将外部推荐器的候选列表与对话状态对齐,再由 LLM 进行偏好感知的重排序。

INSIGHTLLM-as-recommender 的一个典型困境:LLM 的开放域生成能力虽强,但缺乏对目标 item 空间的"感知",常推荐不存在的物品。该论文的解决思路——外部推荐器提供候选 + LLM 重排序——是当前工业界将 LLM 集成到推荐系统的主流范式(即 LLM 做理解和排序,传统模型做召回)。对搜索场景的借鉴:LLM 擅长理解用户意图但不擅长直接检索,应将其定位为"排序增强层"而非替代整个检索管线。

Chuang Li, Weida Liang, Hengchang Hu, See-Kiong Ng, Min-Yen Kan, Haizhou Li, Yang Deng
arXiv·2026-03-31·Relevance 3 · Novelty 3 · Practical 3 · Evidence 3 · Timely 2
10 3.20

ReCQR: Incorporating conversational query rewriting to improve Multimodal Image Retrieval

将对话式查询改写(CQR)引入多模态图像检索领域。基于完整对话历史,CQR 将用户最终query改写为简洁、语义完整的版本以提升检索效果。首先利用 LLM 大规模生成改写候选,再通过 LLM-as-Judge + 人工审核策略构建约 7,000 条高质量多模态对话数据集 ReCQR,并对多个 SOTA 多模态模型进行基准测试。

INSIGHT在多轮对话式搜索中,用户query往往含有指代、省略等现象,直接用于检索效果较差。CQR 提供了一种"LLM生成 + LLM评判 + 人工审核"的数据构建范式,可迁移到 UGC 搜索中的 query 改写场景——先用 LLM 批量生成候选改写,再用 LLM-as-Judge 自动筛选,最后少量人工校验,以较低成本构建高质量改写训练数据。这种三阶段数据飞轮对于搜索系统的query理解模块迭代具有参考价值。

Yuan Hu, ZhiYu Cao, PeiFeng Li, QiaoMing Zhu
arXiv·2026-03-31·Relevance 3 · Novelty 3 · Practical 3 · Evidence 3 · Timely 5

其他赛道今日

点击切换
Personalization
8
个性化推荐 · 篇入选
AI Search
10
AI 搜索 · 篇入选
Agentic
10
智能体搜索 · 篇入选
Infra
10
系统与索引 · 篇入选