Weekly Top 10 · 第41周

2026-10-05 ~ 10-11 · 系统与索引

生成式推荐 · 个性化推荐 · AI 搜索 · 智能体搜索 · 系统与索引

  1. 1. Building Navigable Graphs Without Search in Three Composable Stages

    论文将可导航向量图构建拆成候选池、边筛选与连通骨架三个阶段,通过分区内全对计算避免逐点邻居搜索。六个百万至亿级语料上,相同召回率的距离计算量比PiPNN减少3%–14%;构建时间为完整稠密方案的0.5–0.9倍,代码和日志公开。

    出现于日报:10-09

  2. 2. Quantize by Drift: Label-Free Mixed-Precision Post-Training Quantization for Text Embedders

    论文用逐模块量化后的输出向量漂移,替代依赖相关性标签的敏感度指标,再在硬字节预算内分配精度。五个开发编码器上漂移与检索质量排序的宏平均相关系数为0.911;三个封存测试编码器在主预算下仍比统一精度低0.99、0.85和1.01分。

    出现于日报:10-09

  3. 3. MRVQ: One Resident Index for Dimension- and Rate-Elastic Vector Search

    MRVQ为冻结的 embedding 构建一个可截断残差量化索引,通过减少残差阶段和向量坐标,适配不同码率与维度。在FiQA和NFCorpus上,4、8、16字节编码共用驻留产物,比三个独立QINCo2索引节省17.8至22.0倍内存;代价是FiQA的nDCG@10低0.026至0.107。

    出现于日报:10-06

  4. 4. SOLO: Certified-Recall Metric Similarity Search with Scan-Only Sampled Inverted Lists

    SOLO用随机样本路由和倒排列表扫描实现可认证召回,递归拆分大列表,避免图遍历中的排序启发式。Deep-100M在1 GB驻留内存下召回率为0.9977,Deep-1B在512 MB下为0.9925;在双路32核服务器上,部分工作点吞吐达到调优HNSW的1.8倍。

    出现于日报:10-06

  5. 5. Control How Your GPU Shares Work with Green Contexts

    CUDA Green Contexts 让同一进程显式划分 SM 与工作队列,降低吞吐任务对关键 kernel 的干扰。148 SM 的 Blackwell 微基准中,8 SM 留给关键任务、140 SM 给批量任务,关键延迟为 0.007 ms;仅设高优先级为 0.140 ms,同优先级为 3.727 ms。CUDA 13.1 已提供 Runtime API。

    出现于日报:10-07

  6. 6. Scaling JEV-like Decision Models with SGLang

    SGLang 为决策模型提供显式标签评分接口,并用多项目评分共享重复查询计算,同时隔离各候选的注意力。在单张 H200 的 16 候选测试中,Qwen3-8B 的延迟由生成接口的 54.1 毫秒降至 20.6 毫秒。文章分别讨论逐候选和集合式提示,实验评估服务性能,未证明各提示方式的判断质量等价。

    出现于日报:10-05

  7. 7. Same Text, Different Prediction: Serving-Context Nondeterminism in Text Classifiers

    研究训练180个判别式、伪生成式和生成式分类器,在固定文本和检查点的情况下改变四类服务上下文。仅改变批形状时,fp32比较没有标签变化,bf16却可移动最高56.7个百分点的预测概率质量;小间隔样本更容易翻转,生成式分类器也更不稳定。

    出现于日报:10-09

  8. 8. StagQ: Constraint-Driven Multi-Precision Weight Quantization for LLMs

    StagQ 用 2-bit 分组仿射基础码加若干 1-bit 精化平面,让同一权重流的前缀支持不同精度,并以稀疏旁路保存难量化权重。2-bit 下在 Llama-3.1-8B、Phi-4、OLMo-2-7B 上较最强多精度基线提升 3.1–7.0 个 MMLU 点;A100 合成权重矩阵向量测试多数配置更快。

    出现于日报:10-07

  9. 9. Smart Content Ingestion for Generative AI Workloads

    论文将内容抽取作为生成式系统的独立基础设施,组合选择性 OCR、稀缺样本优先标注、结构感知父子切块和只读检索评估。在 180 份文档上,最佳抽取器得分 97.4/100、字符错误率 0.13%;25,050 个生成问题的 Hit@10 为 92.8%、MRR 为 0.77。

    出现于日报:10-08

  10. 10. Beyond Day-0: Optimizing DeepSeek-V4.1 Flash in SGLang

    SGLang 团队在现有执行流程内优化 DeepSeek-V4.1 Flash,通过 GEMM 布局转换、算子融合、索引与通信重叠减少推理开销。4 张 GB300 在模拟投机接受长度 5.4 时达到每用户 1193 token/s;8 张 H200 不使用投机解码时,单用户速度从约 76 升至 168 token/s。结果依赖特定硬件、输入长度和并发条件。

    出现于日报:10-05

‹ 上一周 · 下一周 ›