Sample Is Feature: Beyond Item-Level, Toward Sample-Level Tokens for Unified Large Recommender Models
提出 Sample-Level Token 范式,突破工业推荐模型的两大瓶颈:样本信息扩展(通过更深更长行为序列丰富训练信号)和模型容量扩展(在单一 Transformer 骨干中统一序列建模与特征交互)。将每个训练样本的全部信息(用户特征、上下文、行为序列)统一编码为 token 序列,使 Transformer 自然处理跨模态交互。
INSIGHT关键创新在于打破 item-level token 的限制,将推荐模型从「每个 item 一个 token」提升到「每个样本一个 token 序列」。这使得模型能同时利用序列位置信息和特征交互信息,避免了传统方法中两个模块分离导致的信息损失。对搜索/推荐系统的启示:统一 Transformer 架构可替代「序列模型 + 特征交叉模型」的拼接方案。