CCD-Level and Load-Aware Thread Orchestration for In-Memory Vector ANNS on Multi-Core CPUs
向量近邻搜索 (ANNS) 是搜索/推荐/广告链路的核心组件,但在 CCD 多核 CPU 上简单堆核数并不能线性扩展。
查找解读请用站内搜索。
向量近邻搜索 (ANNS) 是搜索/推荐/广告链路的核心组件,但在 CCD 多核 CPU 上简单堆核数并不能线性扩展。
针对生成式列表重排中自回归 (AR) 容易误差累积、非自回归 (NAR) 又弱化候选间交互的两难,提出 UniRank:一个统一的列表重排框架,将双向 slate 建模嵌入到迭代去噪过程,并通过推理时变体在 AR 与 NAR 之间灵活切换。
本文系统性梳理生成式推荐(Generative Recommendation, GR)范式,提出 Data-Model-Task 三维统一框架:在 Data 维度讨论 ID 形式(atomic ID、Semantic ID、LLM token、向量量化 token)的设计哲学;在 Model 维度区分 LLM 驱动、扩散驱动、自回归 Transformer(HSTU/TIGER/SIGMA 系列)等不同实现路径;在 Task 维度覆盖召回、排序、序列推荐、多模态、对话式推荐与跨域推荐。
针对 Meta-Agent 缺乏可形式化、可回放的执行底座的问题,Shepherd 提出一种函数式编程模型,将 Meta-Agent 对目标 Agent 的操作抽象为函数,并用 Lean 形式化核心操作。
PRISM 针对电商搜索中“用户偏好”与“商品相关性”信号在曝光、反馈循环和语义匹配作用下严重纠缠的问题,提出 Preference-Relevance Interaction Semantic Modeling 框架。
论文构建覆盖 358 万篇科学论文的引用图,用 Leiden CPM 在子领域 (L1) 与研究议程 (L2) 两个粒度上划分社区,系统审计文本 embedding 是否真正反映概念相关性。
EKTM 针对 CVR 预估在多任务排序框架中的数据稀疏问题,提出有效跨任务知识迁移方法。引入 router 模块按任务相关性分发共享表示,并通过 transmitter 模块做任务特定的特征变换后再融入目标任务,避免硬共享带来的负迁移。
针对 Agentic RAG 多步推理-检索带来的高延迟问题,论文提出将推理与检索从离散语言空间整体迁移到连续 latent 空间:LLM 一次前向即可生成 latent token,并与 dense retriever 共享对齐表示,再通过并行 latent 解码模块还原成自然语言以保持可解释性。
针对 RAG 中传统重排只看 query-document 相关性、忽视生成器实际「有用性」的问题,提出 CAR:一个无需训练、即插即用的重排框架。
针对淘宝信息流推荐中云端 LLM 推理成本高、用户意图变化快的痛点,提出 RecGPT-Mobile:把 Qwen3-0.6B-Quant 通过 LoRA 微调加 8-bit 量化部署到手机端,用本地行为数据动态生成下一步检索 query。
现有 LLM4Rec 多用 token 级目标,难以直接优化 NDCG、Fairness 等列表级不可微指标;推理时 Best-of-N 虽能优化但成本极高。
针对百万 token 级长文本理解任务,论文指出端到端 long-context LLM 存在 token 消耗过高、注意力稀释问题,而传统专用 LTU 智能体(如图构建、索引)又会因任务无关的抽象牺牲精度。
工业界训练前沿搜索 Agent 的「标准菜谱」是 PT→CPT→SFT→RL 的重资源管线。本文反其道而行之,证明只要用「高信息量+高难度」轨迹,纯 SFT 也能达到 SOTA。三个简单的数据合成改动是关键:扩大知识图谱以丰富探索、扩大工具集、严格过滤低步数轨迹。
论文提出 Workspace-Bench 评估 AI Agent 处理「真实工作空间 + 大规模文件依赖」任务的能力。
在固定生成模型 (GPT-4o-mini)、固定向量库 (ChromaDB) 与固定 embedding (text-embedding-3-small) 的前提下,作者系统对比五种检索策略:稠密向量、BM25+稠密混合、Cross-Encoder 重排、Multi-Query 扩展、MMR 多样化。
针对推荐系统作者/供给侧曝光公平问题,提出 PFA:在冻结的主推荐模型外挂一个轻量「公平 adapter」,用 user-item embedding 学习个性化的加性分数偏置注入到原始排序分中,无需重训主模型即可适配多种公平目标。
针对常规 RAG 直接把检索文本喂给 LLM 上下文导致信息整合不充分的问题,论文提出 Verbal-R3 框架:用「Verbal Annotations」明确写出查询与候选文档之间的逻辑关系,再用 Generator+Verbal Reranker 双角色迭代检索-推理。
本文针对多轮 agentic RL 训练崩溃问题,提出 Token- and Turn-level Policy Optimization(T²PO)。作者将训练不稳定归因于多轮场景中的低信息探索:策略反复生成既不降低不确定性也不推进任务的 token 与 turn。
工业大规模排序系统依赖数千个跨多时间窗口的用户行为特征,特征效率上线常需重训模型,导致 3–6 个月迭代周期与可观 GPU 消耗。
在 LLM-based 推荐里,DPO 通常借助多负样本目标函数从隐式反馈中放大偏好边界。但作者发现一个反直觉的“偏好优化坍塌”现象:训练损失持续下降,但增加负样本反而带来性能退化。理论分析显示,易判别的简单负样本会主导梯度,把真正定义偏好边界的“边界负样本”信号压制住。
InvariRank 解决 LLM 列表式重排对候选项顺序敏感的问题:相同候选集换序后排名差异显著。方法用结构化注意力掩码屏蔽候选间的 cross-attention,并通过共享旋转位置编码 (RoPE) 把每个候选都视作出现在同一位置,从而抵消位置带来的打分偏差。
Snapchat 在端到端短视频平台上线全球范围 LLM 增强的话题趋势检测系统。流水线由三阶段组成:多模态主题抽取(视频/文本/标签融合)、时间序列爆点检测(基于历史基线的 burst score)、LLM 二次整合与丰富(去重、命名、扩充元数据)。
针对企业级文档 AI 流水线(解析→索引→检索→生成)缺乏端到端评测的痛点,论文构建 EnterpriseDocBench:横跨 5 个企业领域的公开许可文档语料,统一衡量解析保真度、索引效率、检索相关性与生成置信度。
面向 LLM-as-feature-extractor 范式:作者提出 ProMax,将 LLM 生成的用户/物品 profile 作为辅助信号注入推荐主模型,但摒弃常用的非线性对齐与融合策略,转而从「检索视角」重新审视 profile,引入双向 distribution shaping 机制——用 dense retrieval 暴露 profile 之间的协同关系,再让 profile 分布反向引导主模型对未见物品的偏好分布。
为「DNN 在 CTR/特征交互模型里到底起什么作用」这一长期争论提供新解释:作者通过对 parallel-DNN(如 DCN-V2)和 stacked-DNN(如 DeepFM)做整体与组件级消融,结合梯度理论分析,证明 DNN 的真正贡献并非隐式学高阶交叉,而是缓解 embedding 表征的「维度坍缩」(dimensional collapse),从而提升表示鲁棒性。
针对 LLM listwise 排序计算开销过大的问题,本文提出 RRK,将每篇文档先通过 RAG 中常用的文档压缩技术编码成多 token 的固定长度 embedding,再用蒸馏方式训练 listwise reranker。
针对 LLM 智能体在企业场景(如云技术支持)部署时技能与真实工单脱节、且失败后无法定位技能缺陷的问题,提出 SkillForge 自演化框架。
针对神经检索器跨域泛化中的伪查询生成痛点,论文提出 UnIte:基于不确定性的迭代式文档采样方法。通过 (1) 过滤高随机性 (aleatoric) 的噪声文档;(2) 优先选择高认知不确定性 (epistemic) 的高学习价值文档来生成伪查询。
针对 DLRM 超长用户行为序列训练时存储与 I/O 成为瓶颈、超过 GPU 训练算力的问题,本文提出 Versioned Late Materialization 范式:将 UIH 在归一化、不可变层中只存一份,训练时通过轻量化的版本指针即时重建序列。
本文针对电商搜索相关性中 LLM 在工业场景里持续遭遇的 corner case 问题,指出主要瓶颈不是推理路径而是知识边界——参数化记忆缺乏对小众 query/商品的领域知识。