LLMGR: Large Language Model-based Generative Retrieval in Alipay Search
支付宝搜索部署 LLM 生成式检索系统 LLMGR,将小程序信息编码进大模型后直接生成候选标题进行检索。
INSIGHT对于复杂 query 传统检索难以召回的场景,LLM 生成式检索可作为补充召回源,通过将 item 信息编码进模型参数实现端到端检索,显著提升长尾 query 覆盖率。
业务关联社区搜索中常见复杂 query 无法匹配到相关内容的情况,LLMGR 的思路——用 LLM 作为补充召回源——可直接应用于 UGC 短文本搜索,尤其改善长尾 query 的搜索体验和 CTR。
证据在支付宝搜索在线 A/B 测试中,LLMGR 作为补充召回源相比传统方法在 CTR 上取得了统计显著的提升。