Causal Direct Preference Optimization for Distributionally Robust Generative Recommendation
本文揭示 Direct Preference Optimization (DPO) 在生成式推荐中的关键缺陷:DPO 倾向于在对齐过程中放大环境混杂因素引起的虚假相关性,严重削弱 LLM 推荐器的泛化能力。提出 CausalDPO,通过因果不变性学习和后门调整消除混杂干扰,使用软聚类建模潜在环境分布并施加不变性约束。在多种分布偏移条件下,四个评估指标平均提升 17.17%。
INSIGHTCausalDPO 将因果推断引入生成式推荐的偏好对齐,解决了 DPO 的根本性缺陷——对数据分布的过度依赖导致分布外场景表现骤降。通过后门调整剥离环境混杂因素,模型学到的用户偏好更具因果不变性。这对搜索推荐系统有直接启示:当训练数据和线上数据存在分布差异时(如新品类、新地区),因果对齐策略可显著提升模型鲁棒性。