A Unified Language Model for Large Scale Search, Recommendation, and Reasoning
Spotify 提出 NEO 框架,将预训练 decoder-only LLM 适配为无工具依赖的、目录锚定的统一搜索/推荐/推理生成器。NEO 使用 Semantic ID (SID) 表示物品,通过单一模型同时支持检索、推荐和推理三种行为,避免了工具编排的复杂性。系统能处理多类型实体和异构目录,在严格延迟约束下运行。
INSIGHTNEO 提出了一个关键洞察:搜索、推荐和推理可以在同一 LLM 内统一建模,而无需外部工具链。通过 SID 表示将 LLM 生成锚定在真实目录中,实现了端到端优化。这为社区搜索系统提供了重要启示——未来可以用单一模型同时覆盖 query 理解、内容推荐和推理解释,减少多模块级联的延迟和维护成本。