Mosaic: A Fleet of User Embedding Specialists for Recommendation at Meta
Mosaic 用记忆型、稠密特征型、序列型和 CoTrain 四类专家组成用户向量舰队,并以 MRM 与余弦冗余损失保证新增专家提供边际信息。37 个向量在多业务面带来 Eval NE 最高下降 0.33%,线上核心指标提升 0.10%–0.28%;GPU 优化使资源使用下降 79%。
INSIGHT相比把所有行为塞进单一大模型,按信号形态选择归纳偏置更容易独立迭代、隔离故障并匹配不同新鲜度/延迟要求。落地时应以新增向量的边际 NE 收益而非单模型离线分数做准入;2048 长序列虽使 NE 下降 0.45%,却牺牲 33% QPS,需按场景分层部署。