快速了解本文
NVIDIA 将 OpenShell 和 Agent Substrate 捐赠给 CNCF,完善云原生 AI 治理与调度。
发布 DSX 平台三项新开源组件 NVKE、NVKR 和 Snapshot,加速推理弹性伸缩。
Snapshot 技术将大模型工作负载的就绪时间从数分钟大幅缩短至数十秒。
本摘要由 AI 辅助整理,请以正文内容为准。
NVIDIA 在 KubeCon + CloudNativeCon 大会上宣布多项开源贡献与新组件发布,加速云原生 AI 基础设施演进。通过将 AI Agent 治理框架捐赠给云原生计算基金会(CNCF),并推出底层 GPU 基础设施管理的新开源组件,NVIDIA 正在构建从代理安全调度到推理弹性伸缩的完整开源生态。读者可查阅 NVIDIA 官方博客公告 了解完整发布细节。
01AI Agent 安全治理与大规模调度
针对 AI Agent 部署中的安全合规与资源调度难题,NVIDIA 将用于保护和治理自主代理的开源运行时 NVIDIA OpenShell 捐赠给 CNCF,作为 CNCF Sandbox 项目。OpenShell 允许组织对 AI 代理的活动应用确定性控制并强制执行策略,同时支持连接自定义的计算、推理提供商、凭证存储和监控工具。这标志着 AI Agent 的安全治理基础设施正式进入云原生开源社区。
在代理执行与调度层面,NVIDIA 贡献了由 Google 发起的开源框架 Agent Substrate,该项目同样已被 CNCF Sandbox 接受。Agent Substrate 专为在 Kubernetes 上大规模运行长时间代理工作负载设计,可与 NVIDIA Dynamo 和 KAI Scheduler 集成。该框架能够在任务之间保留代理环境,并在代理空闲时释放计算资源,通过跨共享代理池挂起和恢复环境来扩展工作负载,在保证状态连续性的同时优化资源利用率。这两项贡献将 AI Agent 的安全治理与大规模调度能力下沉至云原生社区,有助于降低企业在 Kubernetes 上管理复杂 Agent 工作负载的门槛。
02DSX 平台组件与推理弹性加速
在底层 GPU 基础设施管理方面,NVIDIA 宣布了 NVIDIA DSX AI Factory Platform 的三项新开源组件:NVIDIA Kubernetes Engine (NVKE)、NVIDIA Kubernetes Recipes (NVKR) 和 NVIDIA Snapshot,旨在使 Kubernetes 更易于运行并加速推理扩展。目前处于公开预览阶段的 NVKE 和 NVKR 提供了开源构建块,用于在 GPU 基础设施上交付托管的 Kubernetes 服务,实现集群生命周期管理自动化,并提供签名与版本固定的镜像。
针对大模型推理服务在弹性伸缩时面临的冷启动痛点,NVIDIA 推出了开源模块化组件 NVIDIA Snapshot。该组件可在几秒内恢复检查点副本,无需重新加载模型或预热,从而支持推理和代理工作负载的更快启动、恢复和弹性。在实际测试中,设计合作伙伴 Crusoe 基于 NVIDIA HGX B300 系统测试 Snapshot,将 GLM-5.3 工作负载的就绪时间从约 8 分钟缩短至 31 秒;Saturn Cloud 则将 vLLM 的从零启动时间从 2 到 8.5 分钟缩短至 6 到 34 秒。Snapshot 通过快照恢复技术将扩容时间从分钟级降至秒级,显著提升了 AI 工厂的资源利用率和响应速度。
