Tokens are All You Need: Dual-purpose Semantic IDs for Achieving LLM-Level I/O Efficiency in recommendation systems
论文让同一组 Semantic ID 同时承担协同身份与内容重建:层次量化把稠密向量压成离散 token,轻量 SiDec 在模型内按需还原语义,典型存储压缩达 50–100 倍。YouTube 线上排序中观看页满意互动提升 0.80%,离线检索 HitRate@100 达 0.2910,训练速度 14.53 step/s,高于直接输入稠密向量的 12.07。
INSIGHT这项工作的价值不只是“用 SID 做生成”,而是把 SID 变成跨日志、网络与模型执行图的语义传输格式,从根源缓解长历史的 I/O 墙。社区 UGC 可先对帖子多模态向量做层次量化,再以嵌套 n-gram 保留协同记忆、以 SiDec 补足冷启动内容信号。