1. 问题与动机

现代搜索结果页同时混排自然网页、UGC 图文、视频、结构化卡片和 LLM 答案。单模态排序器在各自队列内通常已很强，但不同模态的分数分布、展示形态与用户满意度口径不同，不能把原始分数直接拼接排序。整页标注还要求专家同时判断模态内顺序与跨模态相对价值，成本远高于普通 query-document 标注。论文以“可乐鸡翅怎么做”为例：视频更适合展示步骤，纯文本即使词面相关，也未必是整页最优答案。

作者在 Qilin 上把单模态队列按上游分数分位切片，发现头部 30% 样本训练出的整页模型优于随机 30%、中部 40% 和尾部 30%。这说明标注无需均匀覆盖全部候选：成熟 ranker 已提供可靠的模态内偏好，只需少量跨模态锚点完成尺度对齐。SMAR 因而研究如何蒸馏既有排序顺序，并以最少页面级标签学习跨模态可比性。该问题直接对应百度搜索，也高度契合社区搜索的图文、视频与自然结果混排。

2. 方法详解

SMAR 输入用户特征、query 和多个异构队列的候选。Qilin 实验以 BERT-base-Chinese 排文本、Qwen2-VL-2B 排视觉主导内容，两者列表并集构成整页候选池。方法不要求访问教师模型参数，甚至不要求绝对分数，只要知道同一模态内 A 是否应排在 B 前，适合工业团队存在信息孤岛的情况。

第一类监督是单模态偏好蒸馏。Pairwise 版本把上游高分候选当正样本、低分候选当负样本，用带 margin 的成对损失保留顺序，再按模态权重求和。Listwise 版本把教师分数归一化成概率分布，以 KL 散度对齐整页模型分布；如果只能得到排列，则用 ListMLE 最大化目标排列似然。Qilin 采用长度归一化 ListMLE，避免候选数差异使损失尺度不稳，并把人工标签项与文本、视觉教师项加权组合。

第二部分是预算受控的跨模态选样。Top-P 策略只标注各模态队列曝光最高的前 P%，尾部仍由教师弱监督覆盖。Iso-label Anchor 适用于 DuRank 的离散桶特征：在视频与自然结果队列间二分查找相同人工标签的 tie；若目标标签落在另一队列两个标签之间，则插入 virtual tie。锚点把不可比的分数空间连接起来，再生成 pointwise/pairwise 训练对。两轮二分查找只需 58.62% 原始标注数据。

整页模型融合语义、结构与个性化信号。PLM/VLM 编码 query 与候选；视觉表示先 early fusion 映射至文本空间，再由 sigmoid 门控做 late fusion；数值和类别特征经 bucketize、二值化后嵌入。用户特征独立编码为 key/value，候选表示作为 query 进入多头 cross-attention，后接归一化、MLP、残差与打分头。相较只做候选 self-attention，这一结构显式学习“该结果对当前用户是否合适”。

训练使用 8 张 A100 和 8 张 V100。BERT-base-Chinese 与线上 ERNIE 用 FP32；Qwen2-VL-2B、Qwen3-Reranker-4B 用 FP16 与 LoRA。Qilin 训练 30 epoch，query 级 batch size 1、最大长度 512；DuRank 上 Qwen3 训练 15 epoch、batch size 2，并对 attention 和 MLP 做 LoRA，BERT 训练 30 epoch、batch size 32、长度 512。论文 HTML 未显示学习率数值，也未说明优化器，因此复现需查作者代码，不能自行推断。

3. 核心技术贡献

第一，SMAR 把强单模态 ranker 当作“教师排序”，用 pairwise/listwise 蒸馏保存模态内偏好，只把人工预算用于跨模态对齐。Qilin 仅标注头部 10% 时，MRR@10、MAP@10、NDCG 达 0.6702、0.5218、0.4756，全部超过 100% 标签的普通 SFT（0.6664、0.5180、0.4693）。

第二，Top-P 与 Iso-label Anchor 分别覆盖连续分数和离散桶。后者用二分搜索把全页面比较压缩成少量锚点；DuRank 两轮搜索以 58.62% 标注量取得 F1 0.7269、NDCG@4 0.8791，F1 高于全量标签 Vanilla 的 0.7211，PNR 差距小于 0.01。

第三，模型用用户—候选 cross-attention 替代仅建模候选关系的 self-attention，并结合视觉 early/late fusion。Qilin 消融中，MLP NDCG 为 0.4089，self-attention 0.4251，无 hybrid fusion 的 cross-attention 0.4579，完整模型 0.4693；主增益来自个性化交互，视觉混合融合再贡献 0.0114 绝对 NDCG。

第四，方案部署于百度 App。线上 Search UV +0.11%（p=0.04）、IRQ +0.48%、次日留存 +0.31%（p=0.01），Top-4/Top-8 聚合 CTR +0.16%/+0.25%，证明低标注整页重排能转化为用户指标。

4. 实验结果分析

Qilin 来自中文 UGC 平台，含 1.5 万余用户会话、190 万篇笔记、500 万张图片；DuRank 来自百度，覆盖 2024 年 5 月至 2025 年 3 月，含 1.5 万余 query、30 万结果和 0—4 五级专家标签。

仅靠上游顺序时 NDCG 只有 0.4038，说明“队列内正确”并不等于“整页可比”；加入头部 10% 标签后，NDCG 比全量 SFT 高 0.0063，说明选样质量比均匀增加标签更重要。Top 30% 的 MRR 最高，而 Top 10% 的 MAP/NDCG 更高，表明首个相关结果与整列质量的最佳预算点不同。

DuRank 上，BERT 用 30% 标签时 MRR@1 0.7586，超过全量 SFT 0.7414；Qwen3-Reranker-4B 用 30% 标签时 NDCG 0.6913，仍低于全量 SFT 0.7008。作者指出 Qwen3 因时间限制只训 15 epoch，而 BERT 训 30 epoch，说明更大模型不会自动带来更好的低标注效率。

注意力消融显示：MLP 到 self-attention 增加 0.0162 NDCG；加入用户特征 cross-attention 再增 0.0328；完整视觉融合又增 0.0114。因此最重要组件不是更复杂的图像编码，而是让候选按需读取用户信号。

线上 CTR@1 略降且不显著，因为模型更常把自包含 LLM 答案卡排第一，用户无需点击即可满足；与此同时 Top-K CTR、Search UV、IRQ 与留存上升。只看首位 CTR 会把更好的无点击满足误判为退化。论文称实验为“七天”，却给出 2025-09-16 至 2025-10-01，时间口径不一致，应用结论前应确认真实窗口。

5. 局限与未来方向

论文没有独立 Limitation 章节，但正文明确暴露边界。Iso-label Anchor 只适用于离散桶；Qilin 的连续输出无法使用。DuRank 每个 query 平均仅 4.4 个候选，不适合 Top-P，说明策略依赖列表长度与分数形态。Qwen3 因时间只训 15 epoch，低标注结果未追平全量监督；学习率在 HTML 中缺失、优化器未说明，影响复现。DuRank 还需完成匿名化才公开。

作者手工用 QwenReranker 分数 0.1 区分文本驱动与图像驱动点击，并承认高文本分数样本仍可能受图片影响但被忽略，存在标签噪声。线上证据来自百度单一产品，论文也未系统报告线上延迟、显存、吞吐与教师漂移后的维护成本。未来应补充无点击满意度、任务完成率、答案展开和停留，并在更多模态、地区与 query 类型验证。

6. 工业实践意义

搜索团队可采用“先复用，再对齐”：冻结现有文本、图片、视频和答案卡 ranker，导出 query 内相对顺序，以 ListMLE 或 pairwise margin loss 蒸馏；人工优先标注各队列头部。Qilin 证明 10% 精选标签可超过 100% 普通 SFT。若上游分数离散分桶，再用二分法找跨队列同标签锚点。

UGC 社区搜索可把标题与正文交给文本 encoder、封面与图片交给 VLM，作者质量、地点、时效、互动率作为结构特征；长期兴趣、session 与地域作为 cross-attention 的 key/value。上线前分别检查模态内顺序、跨模态 NDCG 与长尾 query。论文在长尾专家评估报告 0.50% 增益，值得单独切片。

部署时可离线计算教师顺序，只在线服务蒸馏后的轻量整页模型，缓存视觉特征、限制候选数并监控各模态分数漂移。研究使用 8 张 A100 加 8 张 V100，但线上换成 ERNIE，说明研究模型与 serving 并不相同。A/B 不能只看 CTR@1，应联合 Search UV、IRQ、Top-K CTR、留存与人工相关性。应避免直接归一化不同模态原始分数，也不要把标注预算平均浪费在尾部低曝光样本。