SIA: A Synthesize-Inject-Align Framework for Knowledge-Grounded and Secure E-commerce Search LLMs with Industrial Deployment
大模型在电商搜索中面临两大工业落地障碍:知识幻觉(对动态细粒度商品知识编码不足)与安全漏洞(越狱攻击威胁合规性)。SIA 框架提出三步方法:Synthesize 阶段合成高质量商品知识训练数据,Inject 阶段通过持续预训练将领域知识注入 LLM,Align 阶段用安全对齐训练抑制越狱风险。该方案已成功在某头部电商平台搜索系统落地,在意图感知推荐上取得显著在线收益,同时将越狱攻击成功率降至可接受范围。
INSIGHTSIA 的工程价值在于将知识注入与安全对齐统一在一个训练流程中:知识合成阶段生成商品属性-描述配对数据,避免了手工标注的高昂成本;注入阶段使用持续预训练而非微调,保留了 LLM 原有的通用能力;对齐阶段利用 DPO 类目标同时优化安全边界。对社区搜索场景的借鉴:UGC 平台可将 SIA 思路迁移至内容理解模型更新——用合成数据持续注入新话题知识,同时通过对齐训练防止敏感内容生成,两步解耦实现知识实时性与合规性的双重保障。