NVIDIA Exemplar Cloud: Lessons for Unlocking Full Performance on AI Infrastructure
文章用四个真实集群案例解释相同 H100、GB200 或 GB300 硬件为何仍会出现 8%–12% 训练吞吐差距,逐层定位 SMMU、NUMA、NCCL 与容器拓扑配置。GB300 案例把 QPS 从 1 调至 4 后,迭代时间由约 1.09 秒降至 0.83 秒;另一个 H100 案例把 12% 性能差距收敛到 3%。
INSIGHT训练集群性能损失往往由多个 2%–4% 的配置偏差叠加,必须在真实容器、启动器与 Slurm 分配内采集 perf、Nsight Systems 和 NCCL Tests,而非只做宿主机微基准。建议把 SMMU 虚拟化能力、C-state、NUMA 绑定、NCCL QPS 和拓扑文件可见性固化为上线前检查项。