1. 问题与动机
工业级推荐系统通常需要同时服务多个场景（Multi-Scenario Learning, MSL）和多个优化目标（Multi-Task Learning, MTL）。现有方法面临两个根本性挑战：
挑战一：规模利用不足 — 现有 MSL/MTL 方法（如 STAR、MMoE、PEPNet）将场景/任务的分布信号作为辅助输入，仅作用于模型浅层或中间层。在 0.1B+ 参数的大型工业模型中，深层参数无法受益于分布差异信息，无法充分利用 Scaling Law。
挑战二：统一建模困难 — 输入侧（场景差异）和输出侧（任务差异）的分布信号性质不同，传统 shared-specific 架构难以在统一框架中联合建模。
Douyin Search 需同时处理单列/双列/内嵌搜索三个场景和点击/点赞/收藏三个任务，形成 3×3 的分布组合。
2. 方法概述
MDL 的核心思想借鉴 LLM 的 prompt 范式：将场景信息和任务信息从「辅助输入」转变为「专用 token」，使其能与特征 token 在注意力机制中进行全层次交互。
整体架构分三步：
- 统一信息 Tokenization：将用户/物品/交叉/序列特征统一投影为特征 token；场景/任务 ID 通过 FFN 生成专用 token
- 域感知全 token 交互：特征自注意力 + 任务-特征交叉注意力 + 场景-特征交叉注意力
- 域融合聚合：实例级别场景 token 选择与均值池化，将场景信息注入任务 token
3. 核心技术贡献
贡献一：统一信息 Tokenization — 场景和任务不再是「条件控制信号」，而是与特征平等参与注意力计算的序列成员，能影响模型每一层。
贡献二：特征自注意力 — 特征 token 通过 Token Mixing 操作跨组融合，提升特征表达丰富度。
贡献三：域感知注意力 — 任务/场景 token 分别通过交叉注意力自适应地从特征 token 中提取信息。注意力可视化证实不同任务/场景 token 呈现截然不同的特征聚合模式。
贡献四：域融合聚合 — 通过实例级别的场景 token 选择与均值池化，确保场景上下文对最终任务预测的调制作用。
4. 实验结果分析
离线评估（QAUC）
与最强基线 RankMixer 相比，MDL 在所有 9 个场景×任务组合上均取得提升：
- 单列点击 +0.31%，点赞 +0.23%，收藏 +0.42%
- 双列点击 +0.27%，点赞 +0.63%，收藏 +0.77%
- 内嵌搜索点击 +0.25%，点赞 +0.34%，收藏 +0.71%
稀疏场景提升更大（双列 > 单列），低频任务提升更大（收藏 > 点赞 > 点击），有效缓解多任务「跷跷板效应」。
消融实验
场景 token 的贡献（-0.17%）大于任务 token（-0.12%），说明场景分布差异对搜索推荐系统的影响更为根本。
线上 A/B 测试（1 个月，数亿用户）
- LT30（30日用户留存）+0.0626%
- 换词率 -0.3267%（用户修改查询频率降低，直接反映搜索满意度提升）
5. 局限与未来方向
- 仅在 3 场景 × 3 任务上验证，场景数大幅增加时的 token 竞争问题未探讨
- 未讨论新场景/新任务上线时的 token 初始化策略
- 计算开销分析不透明，未报告与基线的推理延迟对比
- 未涉及覆盖率、多样性、公平性等多维度评估
6. 工业实践意义
- 架构启示：把「控制信号」升级为「序列成员」是大模型时代 MS-MTL 的关键进化方向
- 重点关注：稀疏场景和低频任务是提升空间最大的地方（收藏 +0.77%）
- 指标设计：换词率是搜索推荐中被低估的核心指标，应纳入多目标优化
- 正则化：全局场景 token 能捕获跨场景共性知识，是防止场景过拟合的有效手段
- 工程落地：MDL 已在数亿用户规模下成功落地，tokenization 的推理开销在可接受范围内