Unlocking Scaling Law in Industrial Recommendation Systems with a Three-step Paradigm based Large User Model
提出三步范式的大用户模型 (LUM),在保持与现有深度学习推荐基础设施兼容的同时,将模型扩展至 70 亿参数并验证 scaling law。
INSIGHT推荐系统的 scaling law 可以通过「三步走」策略来释放:先在现有 DL 推荐架构上渐进扩展,而非直接照搬端到端生成式方案。LUM 在 7B 参数下仍持续获得性能提升,超越传统 DL 模型和纯生成式方案。
业务关联对于社区搜索的排序模型,LUM 表明渐进式 scaling 比激进的端到端改造更可行——可在现有排序架构基础上逐步增大模型规模来提升 nDCG/CTR。
证据模型规模扩展至 7B 参数仍保持性能增长;工业级 A/B 测试结果正向,超越传统 DL 推荐模型和生成式推荐方案。