Real-Time Hard Negative Sampling via LLM-based Clustering for Large-Scale Two-Tower Retrieval
这篇论文改进大规模推荐双塔召回训练中的负采样问题:常见 in-batch 或 out-of-batch 负样本过易,模型很快学会,难以提升区分能力。作者用 LLM 学到的媒体表征做聚类,在训练时从同簇生成实时 hard negatives,框架面向数十亿训练样本并控制额外计算复杂度。论文报告在公开数据集和大规模线上系统中均优于行业常用负采样方案。
INSIGHT核心价值在于把 LLM 语义能力放在训练数据构造层,而不是直接放到线上召回路径,因此更容易控制延迟和成本。对于社区 UGC 推荐/搜索,很多相似帖子、视频或问答只在细粒度意图上不同,同簇 hard negative 能逼迫双塔模型学习更细的用户偏好边界。实践上可先离线构建语义簇,再逐步替换部分随机负样本或 in-batch 负样本做 A/B 验证。