1. 问题与动机
推荐排序本质上是一个影响力分配问题:排序公式在多个竞争因子间分配排序影响力,业务结果取决于找到因子间的最优「汇率」。然而,现有的排序优化面临三个结构性难题:(1) 离线代理指标系统性地误判影响力重新分配对线上效果的传导,且不同指标间存在非对称偏差,单一校准因子无法纠正;(2) 诊断信号在多目标下互相纠缠,操作者难以区分「我预测会发生但没发生」(认知错误)和「发生了但危害超出预期」(价值错误);(3) 人工调参是无状态的——每轮优化从零开始,无法积累跨轮经验。此前的 ParaDance 系统经过 20 个月迭代仍无法解决这些问题,促使团队探索全自主 LLM 驱动的解决方案。
2. 方法详解
双通道框架:基于 Savage 主观期望效用理论,Sortify 将排序优化解耦为两个正交控制轴:
- Belief 通道(离线-线上迁移校正):维护线性迁移模型 ũ_online = α·u_offline + β,通过 LMS 回归(学习率 η=0.2)持续更新斜率和截距。LLM 作为元控制器在 20 轮回溯窗口内识别系统性模式,进行选择性截距跳跃(±0.1),处理认知层面的偏差。
- Preference 通道(约束惩罚适应):计算违约压力 p_j = v_j(θ)/v_j^threshold,使用非对称乘法更新(δ_up=0.25, δ_down=0.08,收紧速度约为放松速度的 3 倍),惩罚权重范围 [1000, 80000]。
影响力份额指标:基于对称群论和排列结构推导,将排序分解为原子成对交换,每个因子的贡献以可分解的百分比呈现(总和为 100%)。通过位置敏感权重 w_qij = exp(-min(r_qi,r_qj)/τ) 进行聚合。相比 Kendall τ 只能产生单一标量,影响力份额支持因子级归因和定量交换推理。
LLM 元控制器:输入 20 轮历史、30 条更新记录和当前状态,输出两个正交旋钮(截距调整 ∈ [-0.1, +0.1],惩罚乘数 ∈ [0.5, 2.0])。使用 7 层安全管线(prompt 约束 → JSON 提取 → Schema 验证 → 白名单校验 → 硬限幅 → 全局边界 → 失败回退)确保鲁棒性。基于 OpenAI Codex 扩展推理模式,300 秒超时,零样本 prompt。
记忆数据库:7 张关系表(episodes、offline_candidates、prior_relations、prior_observations、prior_update_history、penalty_wt_upd_hist、memory_events),复合键防重复写入,仅追加不可变设计支持审计追溯。
搜索引擎:使用 Optuna TPE 采样器执行参数搜索,每轮 5000 次试验、25 个并行 worker(Constant Liar 策略),7 维参数向量,二次惩罚形式(1% 违约惩罚比 10% 小 100 倍)。
3. 核心技术贡献
(1) 影响力交换范式:首次将排序优化形式化为影响力分配问题,通过可分解的影响力份额指标使排序因子贡献透明化。相比传统的 Kendall τ 相关性度量,该指标支持因子级归因,使 LLM 能在语义层面理解排序策略。
(2) 双通道正交解耦:将 Savage 决策理论操作化为两个独立控制轴,认知校正(Belief)和价值适应(Preference)互不干扰。当 Belief 通道发生大幅更新时,Preference 通道自动冻结一轮,隔离影响。这种设计解决了传统方法中多目标诊断信号纠缠的问题。
(3) LLM 框架层控制:LLM 不直接操作底层排序参数,而是在框架层面调整迁移模型截距和惩罚乘数。这种「元控制器」定位利用了 LLM 的模式识别能力,同时通过 7 层安全管线约束其输出范围,实现了自主性与安全性的平衡。
(4) 跨市场冷启动:记忆数据库架构支持无需修改即可跨市场部署,B 国冷启动在第一轮就正确识别了特定市场的信号欠权重问题(ps_org_wc 调整 +271%)。
4. 实验结果分析
A 国热启动实验(7 轮):
| 轮次 | GMV | 订单量 | 广告收入 |
|---|---|---|---|
| R2 | -3.6% | 0.0% | +0.7% |
| R3 | -1.5% | +1.7% | -0.8% |
| R4 | +0.2% | +1.7% | -8.7% |
| R5 | +1.9% | +3.8% | -5.8% |
| R7 | +9.2% | +12.5% | +5.7% |
从 R4 开始 GMV 连续正增长,订单从 R3 起持续正增长。值得注意的是 R7 的 +9.2% GMV 和 +12.5% 订单是在低流量窗口(~12K 展示)下获得的。离线-线上偏差分析显示:R2 离线 I_gmv +18.2% 对应线上 GMV -3.6%(乐观偏差),说明持续校准的必要性。
B 国冷启动至上线(23 轮):
V1 搜索阶段(11 轮)GMV 胜率仅 30%(均值 -2.4%),但正确识别了市场特定的信号欠权重。V3 搜索阶段(12 轮)找到唯一同时满足 GMV 和广告收入正增长的参数组合(R7)。冻结参数后进行 7 天 A/B 验证:GMV/UU +4.15%,广告收入 +3.58%,于 03-24 全量上线。
获胜参数呈现「高点击、低 GMV/订单权重」结构——通过避免过度放大交易信号来减少跷跷板效应。
LLM 收敛模式:A 国实验中 LLM 校正从 R2 的 5 项逐步减少到 R7 的 2 项(幅度接近 0),呈现清晰的残差填充收敛模式。
5. 局限与未来方向
作者明确指出的局限包括:(1) 残余参数振荡:即使经过 7 轮(热启动)和 23 轮(冷启动),系统在波动性参数(特别是 ps_ads_wo,振荡比 4.5 倍)上仍展现特征性摆锤效应;(2) 统计不确定性:低流量窗口(如 R7 仅 ~12K 展示)引入更高方差;(3) 持久多目标张力:A 国实验中广告主价值在 R3-R7 持续为负,表明 GMV/订单与广告主 ROI 之间存在根本性约束冲突;(4) 极端结构性变化的恢复滞后:LMS 从重大分布偏移中恢复需要约 15 轮才能达到 95%。
6. 工业实践意义
可直接借鉴的设计:(1) 影响力份额指标为任何多因子排序系统提供了可分解的归因工具,实现成本低(基于成对比较,无需修改模型);(2) 双通道架构的正交解耦思想可应用于任何需要同时处理校准和约束的在线优化场景。
部署考量:系统资源需求极低——单机搜索引擎、共享 Redis、无 GPU 需求,唯一外部依赖是 LLM API 调用。每轮周期约 4 小时(3.5 小时数据窗口 + 25-50 分钟处理),每天可执行约 6 轮优化。
风险提示:(1) 系统经过 20 个月从 ParaDance 迭代而来,工程复杂度不低;(2) 7 层安全管线虽然必要但增加了维护成本;(3) 在流量较低的场景下,统计显著性不足可能导致错误决策。建议在充足流量的场景下首先验证。