先看证据
开放的是编排层,不是 Kubernetes 的替代品
NVIDIA 已将 Run:ai 平台以 Apache 2.0 许可证开放源码,面向需要在共享 GPU 集群上运行开发、训练和推理任务的团队。Run:ai 建立在 Kubernetes 之上,不取代 Kubernetes:控制平面负责工作负载提交、资源管理与监控,各集群中的服务则补上 GPU 感知的调度能力。用户可以通过 Web 界面、CLI、REST API 或 MCP server 接入。
这次开放的实际变化,不是团队终于“有了 GPU 调度器”,而是能检查、分叉并自托管一套此前由 NVIDIA 提供的生产级编排平台。它降低了评估和部署时对付费订阅的依赖,但并没有消除集群运维、硬件适配或企业支持上的取舍。对技术负责人来说,开放源码首先改变的是控制权与进入门槛,是否能更快、更省地用好 GPU,仍需单独验证。
四个模块把资源管理拆成不同问题
Run:ai 不是一个只有“排队”功能的单体调度器。KAI Scheduler 是 Kubernetes 原生的调度引擎,覆盖 gang scheduling、按时间的 fair-share、拓扑感知、装箱和 DRA 支持,并以 Apache 2.0 发布,也是 CNCF Sandbox 项目。它处理的是任务怎样进入集群、如何共享 GPU 资源这类调度问题。
GPU Fractioning Operator、KAI Resource Management 和 Workload Map 则处理相邻但不同的环节。Fractioning Operator 基于 CUDA 13.4 提供 GPU 切分,驱动为每个工作负载执行硬内存上限,并能导出每个 Pod 的指标;它不依赖特定调度器。Resource Management 把项目、部门、配额和节点池纳入管理,示例中可为研究团队保证集群的 50%。Workload Map 是描述 PyTorchJob、RayCluster、KServe 服务等工作负载类型的 Go 库,本身不负责调度、排队或自动扩缩容。
本地环境降低试用门槛,也暴露了成本
Run:ai 提供了一条不依赖真实 GPU 的本地开发路径。一个 local-dev.sh 脚本会在容器中从源码构建约 50 个 Go 服务,再创建固定为 Kubernetes v1.32.5 的五节点 Kind 集群,并用模拟算子呈现八张 Tesla A10 GPU。开发者可以在 macOS 或 Linux、amd64 或 arm64 主机上跑这套环境;Windows 不在支持范围内。
这条路径适合检查代码、熟悉组件关系和进行本地开发,但它不能证明真实 GPU 集群上的行为或性能。Linux 主机至少需要 4 个 CPU、16 GB 内存和 100 GB 可用磁盘,一次完整构建会留下约 44 GB 缓存;macOS 的 Podman 虚拟机至少需要 12 GB 内存。若要接入真实 NVIDIA GPU,则需 Linux、Docker 和 NVIDIA Container Toolkit。模拟环境能省去试用所需的 GPU 硬件,却没有让本地构建变得轻量,也没有带来 AMD 或 Intel 加速器支持。
部署选择并不等于支持条件相同
生产环境有多条采用路径:团队可以从源码部署,也可以使用 NGC Community Product Helm chart;此外,Run:ai 还可通过八家 DSX 生态合作伙伴获得,商业版本则继续通过 NVIDIA AI Enterprise、NVIDIA Mission Control 和部分云市场提供。不同路径意味着组织可以在自管和商业交付之间选择,而不是必须接受单一的购买方式。
但社区版不包含 NVIDIA 企业支持。对于已经有 Kubernetes 和 GPU 平台运维能力的团队,自托管可能换来更大的检查与定制空间;对缺少这类能力、又依赖明确支持承诺的团队,免订阅并不等于低总成本。采用前需要把谁负责升级、故障排查和集群适配说清楚,不能只比较许可证价格。材料没有给出各部署路径的运维成本或服务水平数据,因此这些差异应由团队按自身环境评估,而不能从开源状态推断出来。
相关性能数据不能替平台背书
这次发布没有附带 Run:ai 平台级性能基准。材料提到的数字来自相邻项目 Model Streamer,而不是 GPU 调度平台:微软公布的测试在 Azure 上使用八台 NVIDIA H100 虚拟机,Model Streamer 的模型加载速度是默认加载器的 3 到 6 倍,吞吐量约为 80 Gbps,对照路径约为 40 Gbps。vLLM 和 SGLang 可通过 `--load-format runai_streamer` 启用它。
这组结果能说明模型权重加载路径有潜在收益,却不能回答 Run:ai 调度是否提高集群利用率、缩短任务等待时间,或降低训练成本。另一个随平台发布的项目 Grove 用于编排多组件推理工作负载,可将 prefill 与 decode 等组件作为整体启动;它扩展的是工作负载编排能力,也不是平台性能证据。因而,合理的判断是把这些项目视作可组合的开源工具,而不是把某个组件的基准成绩外推为整套平台的效果。