- 1. veScale-FSDP: Flexible and High-Performance FSDP at Scale
重新设计了 Fully Sharded Data Parallel (FSDP) 系统，提出 RaggedShard 灵活分片格式和结构感知规划算法，原生支持 block-wise 量化训练和 Shampoo/Muon 等非逐元素优化器，解决了传统 FSDP 在大规模训练中灵活性和性能的瓶颈。
出现于日报：03-03
- 2. OrbitFlow: SLO-Aware Long-Context LLM Serving with Fine-Grained KV Cache Reconfiguration
提出面向 SLO 的长上下文 LLM 推理系统，通过 ILP 求解器动态管理 KV Cache 在 GPU/CPU 间的精细放置。
出现于日报：03-04
- 3. SUN: Shared Use of Next-token Prediction for Efficient Multi-LLM Disaggregated Serving
SUN 提出多 LLM 服务中首个跨模型共享解码执行的方法。将 decoder-only Transformer 分解为 prefill 模块和 decode 模块，仅微调任务特定的 prefill 模块，冻结的 decode 模块可在多模型间共享，大幅提高解码阶段 GPU 利用率。
出现于日报：03-05
- 4. Attn-QAT: 4-Bit Attention With Quantization-Aware Training
首次系统研究 4-bit (FP4) 注意力机制的 QAT（Quantization-Aware Training），解决新一代 FP4 GPU 的端到端低精度推理瓶颈。
出现于日报：03-04
- 5. DeepSeek-V3.2: Pushing the Frontier of Open Large Language Models
DeepSeek 发布 V3.2 开源大模型，引入 DeepSeek Sparse Attention (DSA) 高效注意力机制和可扩展 RL 框架。
出现于日报：03-04
- 6. Is Retraining-Free Enough? The Necessity of Router Calibration for Efficient MoE Compression
系统研究 MoE 压缩后路由器失配问题。提出 Router KD 方法，仅更新路由器参数(模型极小部分)，通过蒸馏原始模型的 next-token 分布恢复压缩性能。适用于专家剪枝、编辑、合并三种压缩范式。
出现于日报：03-05
- 7. Practical FP4 Training for Large-Scale MoE Models on Hopper GPUs · 📖 深度解读
本文提出了在 Hopper GPU 上实现 MXFP4 精度训练大规模 MoE 模型的实用方案。通过直接 FP8-to-FP4 量化/反量化以及感知缩放的行列转换，在 FP8 计算核心的基础上将激活和专家并行通信压缩至 FP4，大幅降低显存和通信开销。
出现于日报：03-05
- 8. TriMoE: Augmenting GPU with AMX-Enabled CPU and DIMM-NDP for High-Throughput MoE Inference via Offloading
TriMoE 提出 GPU-CPU-NDP 三级异构推理架构，将 MoE 专家按热度精确映射到最优计算单元：热专家留 GPU、暖专家用 AMX CPU、冷专家卸载至 DIMM-NDP。配合瓶颈感知调度和预测驱动的动态重布局，实现 2.83x 加速。
出现于日报：03-05
- 9. FLYING SERVING: On-the-Fly Parallelism Switching for Large Language Model Serving
基于 vLLM 实现 LLM 推理服务的运行时并行策略动态切换（DP↔TP），无需重启引擎即可适应流量变化。
出现于日报：03-04
- 10. The Llama 4 Herd: Architecture, Training, Evaluation, and Deployment Notes
Meta 发布 Llama 4 系列，采用原生多模态 MoE 架构（Scout 16 专家、Maverick 128 专家），仅 17B 活跃参数。
出现于日报：03-04