- 1. End-to-End Context Compression at Scale
长上下文 LLM 推理的瓶颈是 KV cache 随上下文长度线性膨胀。论文重新审视 encoder-decoder 压缩路线：先做架构搜索、从零预训练多个变体确定最优设计，再持续预训练一族 0.6B encoder + 4B decoder 模型（每个用 350B+ token），支持 1:4、1:8、1:16 三档压缩比。提出的 Latent Context Language Models (LCLMs) 把长 token…
出现于日报：06-10
- 2. Deploy Long-Context Reasoning and Agentic Workflows with MiniMax M3 on NVIDIA Accelerated Infrastructure
NVIDIA 开发者博客给出在 NVIDIA 加速硬件上部署 MiniMax M3 的完整方案。M3 是 2026 年 6 月 1 日开源的 1M token 上下文权重模型，采用 MiniMax Sparse Attention（MSA）稀疏注意力，相比 M2 在 1M 上下文下解码加速约 15.6 倍、prefill 加速约 9.7 倍，开源权重在 SWE-Bench Pro 上取得 59.0% 的开源最佳成绩…
出现于日报：06-13
- 3. Gryphon: A Unified Architecture for Semantic-ID Generation and Item-Level Scoring in Industrial Recommendations
生成式检索(GR)成为可扩展的候选生成：每个 item 分配层级 token 序列(Semantic ID)，自回归解码下一个 item 的 SID。实际局限是 decoder 的 beam search 优化 token 序列似然、而非底层 item 相关性；当 beam search 误差累积致似然校准差时二者发散。Gryphon 提出统一架构，把 Semantic-ID 生成与 item 级打分统一，面向工业推荐。
出现于日报：06-09
- 4. FlashMemory-DeepSeek-V4: Lightning Index Ultra-Long Context via Lookahead Sparse Attention
常规 LLM 解码时把完整 KV cache 常驻显存，超长上下文 serving 时显存成为硬瓶颈。论文提出 Lookahead Sparse Attention (LSA)：基于 DeepSeek-V4 架构构建一个 Neural Memory Indexer，主动预测未来会用到的上下文、只把 query-critical 的 KV chunk 保留在显存…
出现于日报：06-10
- 5. DeepSeek-V4: 1.6T-Parameter MoE with DeepSeek Sparse Attention for Long-Context Reasoning
DeepSeek-V4 于 2026 年 4 月 24 日开源，包含 V4-Pro（1.6T 总参 / 49B 激活）与 V4-Flash（284B 总参 / 13B 激活）两个 MoE 模型，均支持 1M token 上下文，注意力采用 token-wise 压缩加 DeepSeek Sparse Attention（DSA）。V4-Pro-Max 在 SWE-bench Verified 上达到 80.6%…
出现于日报：06-13
- 6. Kunlun: Establishing Scaling Laws for Massive-Scale Recommendation Systems through Unified Architecture Design
为大规模推荐推导可预测 scaling law(性能与算力投入关系)对资源设计至关重要。这类规律在 LLM 已确立，但推荐系统(尤其同时处理用户历史与上下文特征)仍困难。Kunlun 把“差的 scaling 效率”识别为不能形成可预测幂律的主要障碍，通过统一架构设计建立大规模推荐的 scaling law。
出现于日报：06-09
- 7. Model Quantization: Turn FP8 Checkpoints into High-Performance Inference Engines with NVIDIA TensorRT
NVIDIA 这篇工程博客讲怎么把一个 FP8 量化 checkpoint 落地成高性能 TensorRT 推理引擎，五步流程：PyTorch 模型 → ModelOpt 量化 → 导出 ONNX(opset 20+) → trtexec 构建 engine → 部署推理。ModelOpt 导出时把权重侧 quantize-dequantize 对折叠成 FP8 存储的 DQ-only 链…
出现于日报：06-10
- 8. ASH: Asymmetric Scalar Hashing With Learned Dimensionality Reduction for High-Fidelity Vector Quantization
长期以来乘积量化等加性量化器被视作精度-效率金标准；近来标量量化以数据无关技术重新兴起。本文转向数据驱动方法：通过减少维度数、同时提高每维比特率取得召回与速度新高，关键在于这种降维要从数据中学习(学习型非对称标量哈希 ASH)。
出现于日报：06-09
- 9. DeRes: Decoupling Residual Stability and Adaptivity for Scalable CTR Prediction
基于 Transformer 的 CTR 模型在残差连接处遇瓶颈：Pre-Norm 下早期用户兴趣信号被逐层稀释；identity skip 无法遗忘过时兴趣；每层只看到直接前驱，丢失长程跨层依赖。已有 AttnRes 在语言模型部分解决但丢了保护性 identity skip 且未在推荐验证。DeRes 解耦残差的稳定性与适应性，面向可扩展 CTR。
出现于日报：06-09
- 10. Aperon Technical Report: Hierarchical No-Pointer Tangent-Local Search for High-Dimensional Approximate Nearest Neighbors
Aperon 向量记忆系统的核心索引 HNTL：邻近图(如 HNSW)有沉重指针开销与不规则内存访问、拖慢 CPU 流水线。HNTL 把高维空间划分为局部连贯 grain，用局部切空间低维坐标表示向量，以无指针 Block-SoA 布局顺序扫描。
出现于日报：06-09