NVIDIA Run:ai Is Now Open Source as Part of NVIDIA DSX AI Factory Platform
NVIDIA将完整Run:ai平台开源,提供KAI Scheduler、GPU Fractioning Operator、KAI Resource Management及Workload Map四个可独立采用的组件。平台覆盖GPU感知调度、CUDA原生显存分片、组织配额和工作负载管理,8家DSX生态伙伴宣布集成。文章提供源码与Helm部署入口,但未给出统一吞吐提升基准。
INSIGHT社区搜索中的离线特征加工、嵌入生成和在线推理可共享GPU池;按组件引入公平调度及硬显存边界,比一次替换整个平台更容易试点。CUDA 13.4原生分片和配额管理有助于控制小模型之间的资源竞争,但显存隔离不等于延迟隔离。应以在线尾延迟和离线完成时间验证收益,文中的4组件、8伙伴属于发布事实而非性能证据。